Запуск OpenClaw с Ollama: полностью локальный AI

AI-агент без облака и API-ключей — это не фантазия. OpenClaw с Ollama работает полностью на вашем сервере, без отправки данных в облако. В этом гайде разберём, как развернуть локальный AI-помощника, который подключается к мессенджерам и выполняет автоматизацию.

Зачем локальное решение для AI-агента

Облачные API имеют недостатки для бизнеса: высокие расходы при масштабировании, задержки сети, зависимость от провайдера, утечки данных в облако. OpenClaw с Ollama решает эти проблемы.

Что такое Ollama и почему это важно

Ollama — это лёгкий фреймворк для запуска больших языковых моделей на локальном оборудовании. Он работает как Docker для AI-моделей: скачиваешь модель одной командой и она готова к использованию.

• Mistral 7B (быстрая, хорошего качества)
• Llama 2 (универсальная 7B и 13B версии)
• Neural Chat (оптимизирована для диалогов)
• Qwen (отличная русскоязычная поддержка)
• DeepSeek (мощная, но требовательна к ресурсам)
• phi (компактная, для слабых серверов)

Требования к оборудованию

Здесь начинается практика. Вопрос "какой сервер нужен" — один из самых частых.

CPU: 4+ ядра (Intel/AMD)
RAM: 8 ГБ (для Mistral 7B), 16 ГБ (для Llama 13B)
Диск: 50+ ГБ свободного места (SSD)
GPU: опционально (NVIDIA CUDA ускорит в 5-10 раз)
Сеть: рекомендуется проводная

Пошаговая установка OpenClaw с Ollama

Шаг 1: Установка Ollama

Самый простой способ — скачать официальный дистрибьютив с сайта ollama.ai.

Для Linux через скрипт:

curl -fsSL https://ollama.ai/install.sh | sh

Для macOS и Windows — загрузите инсталлятор с официального сайта.

После установки проверьте:

ollama --version

Шаг 2: Запуск первой модели

Запустим Mistral 7B — оптимальный баланс скорости и качества:

ollama run mistral

Первый запуск займёт 5-15 минут (зависит от интернета). Ollama скачает модель (~4 ГБ) и запустит её локально.

Проверьте, что модель работает:

ollama list

Вывод:

NAME               ID              SIZE    MODIFIED
mistral:latest     2dfb0471a639    4.1 GB  2 minutes ago

Шаг 3: Запуск OpenClaw

Клонируйте репозиторий:

git clone https://github.com/pucpr-openclaw/openclaw.git
cd openclaw

Установите зависимости Python:

pip install -r requirements.txt

Скопируйте пример конфигурации:

cp config.example.yml config.yml

Шаг 4: Конфигурация для Ollama

Отредактируйте config.yml. Найдите секцию с моделями и добавьте:

models:
  ollama_mistral:
    type: ollama
    name: mistral
    api_base: http://localhost:11434
    temperature: 0.7
    max_tokens: 2048
ollama_qwen:     type: ollama     name: qwen     api_base: http://localhost:11434     temperature: 0.5     max_tokens: 4096

Параметр api_base: http://localhost:11434 указывает на локальный Ollama API, который по умолчанию слушает на этом порту.

Шаг 5: Подключение мессенджера

Пример для Telegram:

telegram:
  token: "YOUR_BOT_TOKEN_FROM_BOTFATHER"
  model: ollama_mistral
  prompt_template: "Ты помощник. Ответь кратко и по делу."

Пример для Discord:

discord:
  token: "YOUR_DISCORD_BOT_TOKEN"
  model: ollama_qwen
  prompt_template: "Ты член Discord сервера. Помогай участникам."

Шаг 6: Запуск агента

python main.py

Если всё сделано правильно, вы должны увидеть:

2024-01-15 10:23:45 - OpenClaw initialized
2024-01-15 10:23:46 - Ollama connected (mistral ready)
2024-01-15 10:23:47 - Telegram bot started
2024-01-15 10:23:48 - Waiting for messages...

Отправьте тестовое сообщение в бот. Первый ответ придёт за 2-5 секунд.

Оптимизация производительности

Когда базовая настройка готова, нужно оптимизировать скорость.

Увеличение контекстного окна

Для более сложных задач увеличьте max_tokens:

models:
  ollama_mistral:
    max_tokens: 4096  # Было 2048

Но помните: больше токенов = медленнее генерация.

Параллельная обработка запросов

Отредактируйте количество воркеров в config.yml:

agent:
  workers: 4  # По умолчанию 1, увеличивайте если есть RAM
  queue_size: 100

Использование более лёгкой модели для простых задач

ollama pull phi  # Только 3.8 ГБ, работает на слабых ПК

Настройте маршрутизацию в OpenClaw:

routing:
  simple_queries: phi        # Для простых вопросов
  complex_queries: mistral   # Для анализа

Снижение задержки через кеширование

Добавьте в config.yml:

cache:
  enabled: true
  backend: redis  # или sqlite для лёгкого варианта
  ttl: 3600  # 1 час

Примеры использования в бизнесе

Бот в Telegram отвечает на типичные вопросы клиентов 24/7:

# custom_handlers.py
async def handle_support_request(message, model):
    context = f"Ты агент поддержки. Вопрос: {message.text}"
    response = await model.generate(context)
    return response

Стоимость: один сервер с Mistral 7B. ROI положительный с первого месяца.

Парсите сообщения из чата, классифицируйте по тематикам:

async def analyze_sentiment(text, model):
    prompt = f"Определи тональность (позитив/негатив/нейтраль): {text}"
    analysis = await model.generate(prompt)
    return analysis

Бот в Discord помогает команде генерировать идеи постов:

discord:
  model: ollama_qwen
  prompt_template: "Помогай команде маркетинга генерировать идеи для Insta постов"

Частые проблемы и решения

Решение: убедитесь, что Ollama запущена:

lsof -i :11434  # Проверьте, что процесс слушает порт

Если не видно, перезапустите:

ollama serve

Решение: уменьшите max_tokens или используйте более лёгкую модель:

ollama run phi  # Быстрее в 2-3 раза

Решение: снизьте параллельные запросы в config.yml:

agent:
  workers: 2

Или добавьте swap:

fallocate -l 8G /swapfile
chmod 600 /swapfile
mkswap /swapfile
swapon /swapfile

Когда нужна помощь профессионала

Если установка и настройка вызывает сложности, это нормально. Техническая сторона требует опыта:

• Выбор оптимального оборудования под вашу нагрузку
• Настройка Docker контейнеризации для надёжности
• Интеграция с существующими системами
• Мониторинг и автоматическое восстановление при сбоях

Итого

OpenClaw с Ollama — это полностью локальное решение для запуска AI-агентов. Вы получаете:

• Конфиденциальность: данные остаются на вашем сервере
• Экономию: после установки только расходы на электричество
• Контроль: выбираете модели, параметры, версии
• Скорость: низкие задержки без сетевых хопов

Начните с Mistral 7B на своём сервере — это достаточно для большинства задач автоматизации мессенджеров. Когда вырастете, расширьте мощность железа или добавьте дополнительные модели через Ollama.