5290287058
- TTS: xtts-v2 integration with voice cloning support
- Document: docling integration for PDF/DOCX/PPTX processing
- Memory Service: added /facts/upsert, /facts/{key}, /facts endpoints
- Added required dependencies (TTS, docling)
106 lines
3.0 KiB
Markdown
106 lines
3.0 KiB
Markdown
# ✅ Vision модель Qwen3-VL 8B успішно налаштована
|
|
|
|
**Дата:** 2026-01-12
|
|
|
|
---
|
|
|
|
## 🎯 Виконано
|
|
|
|
### 1. Завантаження Vision моделі
|
|
|
|
**Модель:** `qwen3-vl:8b` (Vision-Language модель)
|
|
|
|
```bash
|
|
ollama pull qwen3-vl:8b
|
|
```
|
|
|
|
**Статус:** ✅ Модель успішно завантажена в Ollama (6.1 GB)
|
|
|
|
### 2. Оновлення конфігурації Swapper
|
|
|
|
**Файл:** `services/swapper-service/config/swapper_config_node1.yaml`
|
|
|
|
**Конфігурація:**
|
|
```yaml
|
|
# Vision Model - Qwen3-VL 8B (High Priority) - For image processing
|
|
qwen3-vl-8b:
|
|
path: ollama:qwen3-vl:8b
|
|
type: vision
|
|
size_gb: 6.1
|
|
priority: high
|
|
description: "Vision model for image understanding and processing"
|
|
```
|
|
|
|
### 3. Перезапуск Swapper
|
|
|
|
**Статус:** ✅ Swapper перезапущено та працює
|
|
|
|
---
|
|
|
|
## 📊 Поточний стан
|
|
|
|
### Моделі в Ollama:
|
|
- ✅ `qwen3:8b` - основна LLM модель (5.2 GB)
|
|
- ✅ `qwen3-vl:8b` - vision модель (6.1 GB) - **ЗАВАНТАЖЕНО**
|
|
|
|
### Swapper Service:
|
|
- ✅ Статус: healthy
|
|
- ✅ Активна модель: `qwen3-8b`
|
|
- ✅ Vision модель: `qwen3-vl-8b` (зареєстрована та готова до використання)
|
|
|
|
---
|
|
|
|
## 🎯 Використання
|
|
|
|
Vision модель `qwen3-vl:8b` буде автоматично завантажуватися Swapper сервісом при запитах на обробку зображень через:
|
|
- Helion агент
|
|
- Gateway (Telegram/Discord)
|
|
- Router (мультимодальні запити)
|
|
|
|
---
|
|
|
|
## 🔍 Перевірка
|
|
|
|
### Перевірка моделей в Ollama:
|
|
```bash
|
|
ollama list
|
|
```
|
|
|
|
Очікуваний результат:
|
|
```
|
|
NAME ID SIZE MODIFIED
|
|
qwen3-vl:8b 901cae732162 6.1 GB [час завантаження]
|
|
qwen3:8b 500a1f067a9f 5.2 GB 4 days ago
|
|
```
|
|
|
|
### Перевірка Swapper:
|
|
```bash
|
|
curl http://localhost:8890/health
|
|
curl http://localhost:8890/models | python3 -m json.tool
|
|
```
|
|
|
|
### Перевірка логів:
|
|
```bash
|
|
docker logs swapper-service-node1 --tail 50
|
|
```
|
|
|
|
---
|
|
|
|
## 📝 Примітки
|
|
|
|
1. **Модель:** `qwen3-vl:8b` - найпотужніша vision-language модель в сімействі Qwen
|
|
2. **Розмір:** 6.1 GB
|
|
3. **Тип:** `vision` - для обробки зображень та мультимодальних запитів
|
|
4. **Пріоритет:** `high` - високий пріоритет для завантаження
|
|
5. **Статус:** Модель завантажена в Ollama та зареєстрована в Swapper
|
|
|
|
---
|
|
|
|
## ✅ Готово до використання
|
|
|
|
Vision модель `qwen3-vl:8b` повністю налаштована та готова до використання для обробки зображень через Helion та інших агентів!
|
|
|
|
---
|
|
|
|
**Оновлено:** 2026-01-12
|