microdao-daarion/NODE2-ARCHITECTURE-ANALYSIS.md

🏗️ Аналіз архітектури НОДА2 (MacBook Pro M4 Max)

Дата: 2026-01-12
Статус: ✅ Повний аналіз архітектури

---

📊 Поточний стан сервісів

Основні сервіси (Healthy)

Сервіс	Контейнер	Статус	Порт	Uptime	Призначення
Router	dagi-router	✅ Healthy	9102	37+ годин	Маршрутизація запитів
Swapper	swapper-service	✅ Healthy	8890	19+ годин	Динамічне завантаження моделей
DevTools	dagi-devtools	✅ Healthy	8008	37+ годин	Інструменти розробки
Gateway	dagi-gateway	✅ Healthy	9300	37+ годин	Telegram/Discord боти
RBAC	dagi-rbac	✅ Healthy	9200	37+ годин	Контроль доступу
CrewAI	dagi-crewai	✅ Healthy	9010	37+ годин	Оркестрація агентів
PostgreSQL	dagi-postgres	✅ Healthy	5432	37+ годин	База даних
Prometheus	dagi-prometheus	✅ Healthy	9091	37+ годин	Метрики
Jupyter	jupyter-lab	✅ Healthy	8888	37+ годин	Нотатки

Сервіси з проблемами (Unhealthy)

Сервіс	Контейнер	Статус	Порт	Проблема
NATS	dagi-nats	⚠️ Unhealthy	4222	Health check не проходить
Memory	memory-service	⚠️ Unhealthy	8001	Health check не проходить
RAG	dagi-rag-service	🔄 Restarting	9500	Постійні перезапуски
Image Gen	dagi-image-gen	⚠️ Unhealthy	9600	Health check не проходить
TTS	dagi-tts-service	⚠️ Unhealthy	9800	Health check не проходить
STT	dagi-stt-service	⚠️ Unhealthy	9401	Health check не проходить
OCR	ocr-service	⚠️ Unhealthy	8896	Health check не проходить
Web Search	dagi-web-search-service	⚠️ Unhealthy	8897	Health check не проходить
Qdrant	qdrant-vector-db	⚠️ Unhealthy	6333-6335	Health check не проходить

---

🔄 Архітектура Router

Конфігурація Router

• Файл: services/router/router_config.yaml
• Мінімальна конфігурація: Тільки messaging inbound
• Провайдери: 17 провайдерів зареєстровано

Провайдери Router (17 штук)

1. llm_local_qwen3_8b - LLMProvider
2. llm_cloud_deepseek - LLMProvider
3. llm_qwen3_vl - LLMProvider
4. llm_specialist_vision_8b - LLMProvider
5. llm_specialist_math_7b - LLMProvider
6. llm_specialist_reasoning_3b - LLMProvider
7. llm_specialist_rag_4b - LLMProvider
8. ... (ще 10 провайдерів)

Змінні середовища Router

• DAGI_ROUTER_CONFIG=/app/router-config.yml
• RBAC_BASE_URL=http://rbac:9200
• DEVTOOLS_BASE_URL=http://devtools:8008
• CREWAI_BASE_URL=http://crewai:9010
• RAG_SERVICE_URL=http://rag-service:9500
• MEMORY_SERVICE_URL=http://memory-service:8000

Залежності Router

• Залежить від: devtools, crewai, rbac
• Підключений до: NATS (для messaging)

---

🔄 Архітектура Swapper Service

Конфігурація Swapper

• Файл: services/swapper-service/config/swapper_config_node2.yaml
• Режим: single-active (одна модель за раз)
• GPU: Увімкнено (Apple Silicon Metal acceleration)
• Default модель: gpt-oss-latest (автоматично завантажується)

Моделі в Swapper (8 моделей)

Модель	Тип	Розмір	Пріоритет	Статус
gpt-oss-latest	LLM	13.0 GB	High	✅ Loaded (19.36 год uptime)
phi3-latest	LLM	2.2 GB	High	Unloaded
starcoder2-3b	Code	1.7 GB	Medium	Unloaded
mistral-nemo-12b	LLM	7.1 GB	High	Unloaded
gemma2-27b	LLM	15.0 GB	Medium	Unloaded
deepseek-coder-33b	Code	18.0 GB	High	Unloaded
qwen2.5-coder-32b	Code	19.0 GB	High	Unloaded
deepseek-r1-70b	LLM	42.0 GB	High	Unloaded

Змінні середовища Swapper

• OLLAMA_BASE_URL=http://host.docker.internal:11434
• SWAPPER_CONFIG_PATH=/app/config/swapper_config.yaml
• SWAPPER_MODE=single-active
• MAX_CONCURRENT_MODELS=1
• MODEL_SWAP_TIMEOUT=30

Доступ до Ollama

• Через: host.docker.internal:11434 (MacBook Docker Desktop)
• Механізм: extra_hosts: host.docker.internal:host-gateway
• Ollama: Працює на хості (не в контейнері)

---

🔗 Інтеграція Router ↔ Swapper

Поточна ситуація

• ✅ Router має 17 провайдерів
• ✅ Swapper працює незалежно
• ⚠️ Потрібна перевірка: Чи Router використовує Swapper як провайдер?

Можливі інтеграції

1. Пряма інтеграція: Router викликає Swapper API для завантаження моделей
2. Через провайдери: Router має провайдер, який використовує Swapper
3. Через NATS: Повідомлення між Router та Swapper через NATS

---

📦 Моделі в Ollama (на хості)

Доступні моделі

• llava:13b - Vision model (8GB)
• gpt-oss:latest - Активна в Swapper (13GB)
• Інші моделі (потрібна детальна перевірка)

---

🔍 Детальний аналіз

1. Swapper Service Metrics

Активна модель:

• Назва: gpt-oss-latest
• Uptime: 19.36 годин
• Request count: 0 (не використовується активно)
• Loaded at: 2026-01-11T14:40:18

Загальна статистика:

• Total models: 8
• Loaded models: 1 (gpt-oss-latest)
• Available models: 8
• Mode: single-active

2. Router Configuration

Messaging:

• Inbound enabled: ✅
• Source subject: agent.filter.decision
• Target subject: router.invoke.agent

Провайдери:

• 17 провайдерів зареєстровано
• Типи: LLMProvider, VisionProvider, тощо

3. Docker Network

Network: dagi-network

• Всі сервіси підключені до однієї мережі
• Можуть спілкуватися через внутрішні імена контейнерів

---

🔧 Як працює НОДА2

Потік запиту (припущення)

1. Вхідний запит → Router (порт 9102)
2. Router аналізує запит та визначає провайдера
3. Якщо потрібен LLM:
   • Router викликає Swapper API
   • Swapper перевіряє чи модель завантажена
   • Якщо ні - завантажує з Ollama
   • Swapper викликає Ollama для генерації
   • Результат повертається через Swapper → Router → Клієнт

Комунікація між сервісами

Client → Router (9102) → Swapper (8890) → Ollama (host:11434)
                ↓
            NATS (4222) → Інші сервіси

---

⚠️ Відомі проблеми

1. NATS Unhealthy

• Проблема: Health check не проходить
• Вплив: Можливі проблеми з messaging
• Рішення: Перевірити конфігурацію health check

2. RAG Service Restarting

• Проблема: Постійні перезапуски
• Вплив: RAG функціональність недоступна
• Рішення: Перевірити логи та залежності

3. Багато Unhealthy сервісів

• Проблема: 9 сервісів unhealthy
• Вплив: Часткова функціональність
• Рішення: Систематична перевірка кожного сервісу

---

📝 Рекомендації

Пріоритет 1: Виправити критичні сервіси

1. NATS - критичний для messaging
2. RAG Service - важливий для пошуку
3. Memory Service - важливий для агентів

Пріоритет 2: Оптимізація

1. Перевірити чи Router використовує Swapper
2. Налаштувати автоматичне завантаження моделей за потреби
3. Оптимізувати використання пам'яті

Пріоритет 3: Моніторинг

1. Налаштувати алерти для unhealthy сервісів
2. Додати метрики використання моделей
3. Логування інтеграцій

---

🔍 Наступні кроки для детального аналізу

1. Перевірити чи Router викликає Swapper
2. Протестувати маршрутизацію запитів
3. Перевірити логи інтеграції
4. Налаштувати моніторинг

---

Оновлено: 2026-01-12
Статус: ✅ Аналіз завершено