Files
microdao-daarion/MONITOR-AGENT-MISTRAL-SETUP.md
Apple 3de3c8cb36 feat: Add presence heartbeat for Matrix online status
- matrix-gateway: POST /internal/matrix/presence/online endpoint
- usePresenceHeartbeat hook with activity tracking
- Auto away after 5 min inactivity
- Offline on page close/visibility change
- Integrated in MatrixChatRoom component
2025-11-27 00:19:40 -08:00

3.9 KiB
Raw Permalink Blame History

🤖 Monitor Agent - Підключення до Mistral на НОДА2

📊 Поточна конфігурація

Ollama на НОДА2

  • URL: http://192.168.1.244:11434
  • Модель для Monitor Agent: mistral:7b (4.1 GB)

Чому менша модель?

Проблема: mistral-nemo:12b (7.1 GB) може перевантажувати НОДА2 при одночасній роботі з іншими агентами.

Рішення: Використовуємо mistral:7b (4.1 GB) - менша модель, але достатня для Monitor Agent.

🎯 Доступні моделі Mistral на НОДА2

Рекомендовані для Monitor Agent:

  1. mistral:7b (4.1 GB) РЕКОМЕНДОВАНО

    • Менша модель
    • Швидка відповідь
    • Достатня для моніторингу
  2. mistral:latest (4.1 GB) Альтернатива

    • Остання версія Mistral
    • Може бути оновленою
  3. mistral-nemo:12b (7.1 GB) ⚠️ Велика

    • Краща якість
    • Але може перевантажувати НОДА2

🔧 Налаштування

Environment Variables

# .env файл для Monitor Agent Service
OLLAMA_BASE_URL=http://192.168.1.244:11434
MISTRAL_MODEL=mistral:7b
MEMORY_SERVICE_URL=http://localhost:8000

Перевірка доступних моделей

# Перевірити доступні моделі Mistral на НОДА2
curl http://192.168.1.244:11434/api/tags | grep mistral

Встановлення меншої моделі (якщо потрібно)

# Встановити mistral:7b на НОДА2
ssh user@192.168.1.244
ollama pull mistral:7b

📊 Пам'ять Monitor Agent

Структура пам'яті

  1. Загальна пам'ять: monitor

    • Всі події системи
    • Доступна всім Monitor Agent
  2. Пам'ять для НОДИ: monitor-node-{node_id}

    • Події конкретної НОДИ
    • Доступна Monitor Agent цієї ноди
  3. Пам'ять для мікроДАО: monitor-microdao-{microdao_id}

    • Події конкретного мікроДАО
    • Доступна Monitor Agent цього мікроДАО

Як працює

Monitor Agent отримує контекст:

  • 50% з загальної пам'яті (monitor)
  • 50% зі специфічної пам'яті (monitor-node-{node_id} або monitor-microdao-{microdao_id})

Переваги меншої моделі

  1. Менше навантаження на НОДА2

    • 4.1 GB замість 7.1 GB
    • Швидша відповідь
    • Менше використання RAM
  2. Достатня якість

    • Mistral 7B достатня для моніторингу
    • Швидкі відповіді
    • Ефективне використання ресурсів
  3. Масштабованість

    • Можна запускати кілька Monitor Agent одночасно
    • Не перевантажує систему

🔄 Оновлення конфігурації

Якщо потрібна більша модель

# Змінити в .env
MISTRAL_MODEL=mistral-nemo:12b

Якщо потрібна менша модель

# Змінити в .env
MISTRAL_MODEL=mistral:7b

📊 Моніторинг навантаження

Перевірка використання ресурсів

# На НОДА2
htop
# Або
docker stats

Перевірка Ollama

# Перевірити завантажені моделі
curl http://192.168.1.244:11434/api/ps

Last Updated: 2025-01-27
Status: Налаштовано для використання mistral:7b на НОДА2