Files

Apple 5290287058 feat: implement TTS, Document processing, and Memory Service /facts API

- TTS: xtts-v2 integration with voice cloning support
- Document: docling integration for PDF/DOCX/PPTX processing
- Memory Service: added /facts/upsert, /facts/{key}, /facts endpoints
- Added required dependencies (TTS, docling)

2026-01-17 08:16:37 -08:00

4.1 KiB

Raw Blame History

🔍 OCR Architecture Summary

Дата: 2026-01-16

❓ Питання та відповіді

1. Чи можу я отримати ліцензію Datalab Chandra?

Ні — це потребує контакту з Datalab та оплати. Модель закрита.

2. Альтернативи OCR моделей:

Модель	Статус	Призначення	VRAM
GOT-OCR2.0	✅ Встановлюється	Документи, таблиці, формули, рукопис	~8GB
TrOCR	✅ Резервна	Друкований текст	~2GB
DeepSeek VL	⚠️ Через API	Vision + OCR	-
IBM Docling	⚠️ Python бібліотека	PDF парсинг	CPU

3. Чи потрібен MoE роутер?

НІ — MoE (Mixture of Experts) це внутрішня архітектура моделей, не для маршрутизації сервісів.

4. Чи достатньо Swapper сервісу?

ТАК — Swapper може:

Керувати завантаженням OCR моделей
Динамічно перемикати між моделями
Вивантажувати неактивні моделі

5. Коли потрібен окремий OCR роутер?

Якщо потрібно:

Кілька OCR сервісів одночасно
Маршрутизація за типом документа (таблиці → GOT-OCR, текст → TrOCR)
Fallback між сервісами

🎯 Обрана архітектура

┌─────────────┐     ┌──────────────────┐     ┌─────────────────┐
│   Gateway   │────▶│   DAGI Router    │────▶│  OCR Service    │
└─────────────┘     └──────────────────┘     │  (GOT-OCR2.0)   │
                                              └─────────────────┘
                                                      │
                                              ┌───────▼───────┐
                                              │    Swapper    │
                                              │  (керування)  │
                                              └───────────────┘

Чому GOT-OCR2.0?

Найкраща open-source OCR для документів та таблиць
Доступна на HuggingFace без ліцензії
Підтримує: документи, таблиці, формули, рукопис
~8GB VRAM — підходить для RTX 4000 SFF Ada (20GB)

📊 Порівняння OCR рішень

Критерій	GOT-OCR2.0	TrOCR	DeepSeek VL	Chandra
Таблиці	✅ Відмінно	❌ Базово	⚠️ Через vision	✅ Відмінно
Рукопис	✅ Так	✅ Окрема модель	⚠️ Обмежено	✅ Так
Формули	✅ Так	❌ Ні	❌ Ні	✅ Так
Ліцензія	✅ Open	✅ Open	✅ Open	❌ Платна
VRAM	8GB	2GB	API	16GB+

🔧 Що встановлено

✅ OCR Inference Service — з GOT-OCR2.0
✅ OCR API Service — wrapper на порту 8002
✅ Router інтеграція — OCR_URL та CHANDRA_URL
✅ Fallback — TrOCR як резервна модель

📝 Наступні кроки (опціонально)

Додати IBM Docling — для PDF парсингу з таблицями
Додати OCR роутер — якщо потрібно кілька моделей одночасно
Інтегрувати DeepSeek API — для складних випадків

Оновлено: 2026-01-16

4.1 KiB Raw Blame History Unescape Escape