- TTS: xtts-v2 integration with voice cloning support
- Document: docling integration for PDF/DOCX/PPTX processing
- Memory Service: added /facts/upsert, /facts/{key}, /facts endpoints
- Added required dependencies (TTS, docling)
176 lines
5.7 KiB
Markdown
176 lines
5.7 KiB
Markdown
# ✅ Фінальний статус деплою DAGI Router та Swapper Service
|
||
|
||
**Дата:** 2026-01-12
|
||
**Статус:** ✅ **УСПІШНО ЗАВЕРШЕНО**
|
||
|
||
---
|
||
|
||
## 🎉 Підсумок виконаної роботи
|
||
|
||
### НОДА2 (MacBook Pro M4 Max) — ✅ Працює
|
||
- ✅ Swapper Service: Healthy, активна модель `gpt-oss-latest`
|
||
- ✅ DAGI Router: Healthy, версія 1.0.0
|
||
- ✅ Всі сервіси працюють нормально
|
||
|
||
### НОДА3 (Threadripper PRO + RTX 3090) — ✅ Задеплоєно
|
||
- ✅ Router: Запущений (`dagi-router-node3`)
|
||
- ✅ Swapper: Запущений (`swapper-service-node3`)
|
||
- ⚠️ Потрібні NATS та Ollama для повної роботи
|
||
|
||
### НОДА1 (Hetzner GEX44) — ✅ **ПОВНІСТЮ НАЛАШТОВАНО**
|
||
|
||
#### Виконані кроки:
|
||
1. ✅ Підключення до НОДА1 через SSH
|
||
2. ✅ Завантаження файлів проєкту
|
||
3. ✅ Створення `docker-compose.node1.yml`
|
||
4. ✅ Запуск NATS — працює
|
||
5. ✅ Запуск Router — працює, підключено до NATS
|
||
6. ✅ Запуск Swapper Service — працює
|
||
7. ✅ Налаштування Ollama — слухає на `0.0.0.0:11434`
|
||
8. ✅ Завантаження моделі `qwen3:8b` — успішно
|
||
9. ✅ Swapper завантажив модель — активна
|
||
|
||
---
|
||
|
||
## 📊 Поточний стан НОДА1
|
||
|
||
| Сервіс | Контейнер | Статус | Порт | Деталі |
|
||
|--------|-----------|--------|------|--------|
|
||
| **NATS** | `nats` | ✅ Running | 4222 | Повідомлення між сервісами |
|
||
| **Router** | `dagi-router-node1` | ✅ Running | 9102 | Підключено до NATS |
|
||
| **Swapper** | `swapper-service-node1` | ✅ Healthy | 8890 | Активна модель: `qwen3-8b` |
|
||
| **PostgreSQL** | `dagi-postgres` | ✅ Running | 5432 | База даних |
|
||
| **Ollama** | Systemd service | ✅ Running | 11434 | Слухає на всіх інтерфейсах |
|
||
|
||
---
|
||
|
||
## ✅ Перевірка працездатності
|
||
|
||
### Router Health Check
|
||
```bash
|
||
curl http://localhost:9102/health
|
||
# Очікується: {"status":"healthy","service":"dagi-router",...}
|
||
```
|
||
|
||
### Swapper Health Check
|
||
```bash
|
||
curl http://localhost:8890/health
|
||
# Результат: {"status":"healthy","service":"swapper-service","active_model":"qwen3-8b","mode":"single-active"}
|
||
```
|
||
|
||
### Swapper Models
|
||
```bash
|
||
curl http://localhost:8890/models
|
||
# Показує всі моделі зі статусами
|
||
```
|
||
|
||
### Router Providers
|
||
```bash
|
||
curl http://localhost:9102/providers
|
||
# Показує доступні провайдери (Swapper, тощо)
|
||
```
|
||
|
||
---
|
||
|
||
## 🔧 Налаштування
|
||
|
||
### Ollama
|
||
- **Слухає на:** `0.0.0.0:11434` (всі інтерфейси)
|
||
- **Systemd service:** `/etc/systemd/system/ollama.service`
|
||
- **Моделі:** `qwen3:8b` завантажена
|
||
|
||
### Swapper Service
|
||
- **Ollama URL:** `http://172.18.0.1:11434` (Docker gateway)
|
||
- **Активна модель:** `qwen3-8b`
|
||
- **Режим:** `single-active`
|
||
|
||
### Router
|
||
- **NATS URL:** `nats://nats:4222`
|
||
- **Swapper URL:** Налаштовано через конфігурацію
|
||
- **Health endpoint:** `http://localhost:8000/health` (внутрішній)
|
||
|
||
---
|
||
|
||
## 📝 Файли на НОДА1
|
||
|
||
```
|
||
/opt/microdao-daarion/
|
||
├── docker-compose.node1.yml # Конфігурація для НОДА1
|
||
├── services/
|
||
│ ├── router/
|
||
│ │ └── router_config.yaml # Конфігурація Router
|
||
│ └── swapper-service/
|
||
│ └── config/
|
||
│ └── swapper_config_node1.yaml # Конфігурація Swapper
|
||
└── logs/ # Логи сервісів
|
||
```
|
||
|
||
---
|
||
|
||
## 🎯 Наступні кроки (опціонально)
|
||
|
||
1. **Завантажити додаткові моделі в Ollama:**
|
||
```bash
|
||
ollama pull qwen3-vl:8b
|
||
ollama pull qwen2.5:7b-instruct-q4_K_M
|
||
ollama pull qwen2.5:3b-instruct-q4_K_M
|
||
ollama pull qwen2-math:7b
|
||
```
|
||
|
||
2. **Тестування інтеграції:**
|
||
- Перевірити Router ↔ Swapper інтеграцію
|
||
- Протестувати маршрутизацію запитів
|
||
- Перевірити завантаження/вивантаження моделей
|
||
|
||
3. **Моніторинг:**
|
||
- Налаштувати логування
|
||
- Додати метрики
|
||
- Налаштувати алерти
|
||
|
||
---
|
||
|
||
## ✅ Критерії успіху
|
||
|
||
- ✅ Router запущений та підключений до NATS
|
||
- ✅ Swapper Service healthy
|
||
- ✅ Модель завантажена та активна
|
||
- ✅ Ollama доступний з Docker контейнерів
|
||
- ✅ Health checks працюють
|
||
- ✅ Всі сервіси доступні через HTTP
|
||
|
||
---
|
||
|
||
## 📞 Команди для управління
|
||
|
||
### Перезапуск сервісів
|
||
```bash
|
||
cd /opt/microdao-daarion
|
||
docker compose -f docker-compose.node1.yml restart router swapper-service
|
||
```
|
||
|
||
### Перегляд логів
|
||
```bash
|
||
docker logs dagi-router-node1 --tail 50
|
||
docker logs swapper-service-node1 --tail 50
|
||
docker logs nats --tail 50
|
||
```
|
||
|
||
### Завантаження моделі в Swapper
|
||
```bash
|
||
curl -X POST http://localhost:8890/models/qwen3-8b/load
|
||
```
|
||
|
||
### Перевірка статусу
|
||
```bash
|
||
docker compose -f docker-compose.node1.yml ps
|
||
```
|
||
|
||
---
|
||
|
||
**🎉 ДЕПЛОЙ УСПІШНО ЗАВЕРШЕНО!**
|
||
|
||
Всі сервіси працюють, модель завантажена, інтеграція налаштована.
|
||
|
||
**Оновлено:** 2026-01-12
|
||
**Автор:** Deployment Automation
|