Files
microdao-daarion/QWEN-VISION-MODEL-COMPLETE.md
Apple 5290287058 feat: implement TTS, Document processing, and Memory Service /facts API
- TTS: xtts-v2 integration with voice cloning support
- Document: docling integration for PDF/DOCX/PPTX processing
- Memory Service: added /facts/upsert, /facts/{key}, /facts endpoints
- Added required dependencies (TTS, docling)
2026-01-17 08:16:37 -08:00

2.3 KiB
Raw Permalink Blame History

Vision модель Qwen завантажена на НОДА1

Дата: 2026-01-12


📋 Виконано

1. Завантаження Vision моделі

Модель: qwen2-vl:7b (Vision-Language модель)

ollama pull qwen2-vl:7b

Статус: Модель завантажена в Ollama

2. Оновлення конфігурації Swapper

Файл: services/swapper-service/config/swapper_config_node1.yaml

Конфігурація:

# Vision Model - Qwen2-VL 7B (High Priority) - For image processing
qwen2-vl-7b:
  path: ollama:qwen2-vl:7b
  type: vision
  size_gb: 4.5
  priority: high
  description: "Vision model for image understanding and processing"

3. Перезапуск Swapper

Статус: Swapper перезапущено та працює


📊 Поточний стан

Моделі в Ollama:

  • qwen3:8b - основна LLM модель
  • qwen2-vl:7b - vision модель

Swapper Service:

  • Статус: healthy
  • Активна модель: qwen3-8b
  • Vision модель: qwen2-vl:7b (доступна для завантаження)

🎯 Використання

Vision модель qwen2-vl:7b буде автоматично завантажуватися Swapper сервісом при запитах на обробку зображень через:

  • Helion агент
  • Gateway (Telegram/Discord)
  • Router (мультимодальні запити)

🔍 Перевірка

Перевірка моделей в Ollama:

ollama list

Перевірка Swapper:

curl http://localhost:8890/health
curl http://localhost:8890/models

Перевірка логів:

docker logs swapper-service-node1 --tail 50

📝 Примітки

  1. Модель: Використовується qwen2-vl:7b замість qwen3-vl:8b, оскільки це актуальна vision модель, доступна в Ollama.

  2. Розмір: ~4.5 GB

  3. Тип: vision - для обробки зображень та мультимодальних запитів

  4. Пріоритет: high - модель має високий пріоритет для завантаження


Оновлено: 2026-01-12