- TTS: xtts-v2 integration with voice cloning support
- Document: docling integration for PDF/DOCX/PPTX processing
- Memory Service: added /facts/upsert, /facts/{key}, /facts endpoints
- Added required dependencies (TTS, docling)
2.3 KiB
2.3 KiB
📄 Статус встановлення Datalab Chandra
Дата: 2026-01-12
✅ Виконано
1. Створено сервіси:
- ✅
chandra-inference— inference сервіс з HuggingFace моделлю - ✅
chandra-service— API wrapper сервіс
2. Завантажено на НОДА1:
- ✅
services/chandra-inference/— повна директорія - ✅
services/chandra-service/— повна директорія - ✅
docker-compose.node1.yml— оновлений файл
3. Налаштовано:
- ✅ Docker Compose конфігурація
- ✅ GPU доступ для inference
- ✅ Health checks
- ✅ Router інтеграція (
OCR_URL,CHANDRA_URL)
🔄 Поточний статус
Збірка та запуск:
- ⏳ Збираються Docker образи
- ⏳ Запускаються контейнери
- ⏳ Перевіряється health
📝 Наступні кроки
-
Перевірити статус контейнерів:
docker ps | grep chandra -
Перевірити логи:
docker logs dagi-chandra-inference-node1 docker logs dagi-chandra-service-node1 -
Перевірити health:
curl http://localhost:8002/health -
Протестувати обробку документа:
curl -X POST http://localhost:8002/process \ -F "file=@test_document.pdf" \ -F "output_format=markdown"
⚠️ Можливі проблеми
- Модель завантажується довго — перший запуск може зайняти 5-10 хвилин
- VRAM недостатньо — переконайтеся, що GPU має достатньо пам'яті
- HuggingFace доступ — потрібен доступ до HuggingFace для завантаження моделі
🎯 Очікуваний результат
Після успішного запуску:
chandra-inferenceпрацює на порту 8000chandra-serviceпрацює на порту 8002- Health checks показують
healthy - Можна обробляти документи через API
Оновлено: 2026-01-12