Ante — терминальный coding-агент на Rust с локальным инференсом и нулевыми зависимостями

Ante — это терминальный coding-агент, написанный на Rust и созданный лабораторией Antigma Labs. Главная идея проекта: один самодостаточный бинарник размером ~15 MB, который не требует внешних зависимостей, аккаунтов или интернета. Агент работает в four режимах — интерактивный TUI, headless-режим для скриптов и CI, сервер для интеграций и шлюз для ботов в Slack/Discord.

Архитектура и производительность

Ante построен с нуля на Rust: компоненты вроде Grep и git встроены в один процесс, а локальный инференс управляется через встроенную копию llama.cpp. По сравнению с Claude Code в Docker-контейнерах при 20 параллельных задачах Ante потребляет примерно в 7 раз меньше пиковой памяти, в 9 раз меньше CPU и в 5 раз меньше disk I/O. Это принципиальное отличие от агентов на Node.js или Python, которые несут порядково большую нагрузку.

Архитектура построена по схеме клиент-демон: TUI, headless и сервер — это клиенты, которые общаются с демоном через JSONL-протокол. Демон управляет сессиями, шагами, инструментами, разрешениями, навыками и агентами, после чего отправляет запросы в LLM-провайдеры.

Локальный инференс и офлайн-режим

Встроенный движок llama.cpp работает с моделями в формате GGUF. Достаточно указать путь к файлу модели — и весь цикл генерации запускается локально без API-ключей и интернета:

ante --offline-model ~/.ante/models/Qwen3.5-9B-Q4_K_M.gguf \
  -p "add error handling to src/main.rs"

Проект также развивает nanochat-rs — исследовательский GPT-движок на чистом Rust с использованием candle, который работает внутри того же процесса, что и вызывающий код.

Провайдеры и конфигурация

Ante поддерживает 17 встроенных пресетов провайдеров: Anthropic, OpenAI, Google Gemini, Grok, DeepSeek, Open Router и другие. Каждый пресет протестирован и учитывает особенности API — формат запросов, аутентификацию, thinking и streaming.

Для пользовательских эндпоинтов достаточно добавить запись в ~/.ante/catalog.json с указанием wire style (Ante поддерживает четыре диалекта API), стиля аутентификации и дополнительных заголовков. Провайдером может быть любой OpenAI-совместимый сервер.

Профили и гибкость

Поведение агента определяется файлом настроек, а флаг --profile <name> позволяет переключать его при каждом запуске. Один и тот же бинарник может быть полноценным ассистентом в одном терминале и минималистичным агентом в другом. В каталоге curated/ уже есть готовые профили: pi (четыре инструмента и кастомный промпт) и plan (только чтение и планирование).

Для проектных настроек Ante читает .ante/settings.json в корне репозитория — MCP-серверы, разрешённые инструменты, модели по умолчанию.

Бенчмарки и прозрачность

Ante непрерывно тестируется на Terminal-Bench 2.1: 89 задач, 5 попыток каждая. Последний полный прогон показал 83.9% с open-weight моделью DeepSeek V4.1 Flash (370/445 попыток, около $18 на инференс). Каждый результат привязан к конкретной сборке Ante и связан с сырыми логами Harbor для независимого аудита.

Что открыто

Репозиторий содержит то, что разработчики считают ключевым в эпоху агентного кодирования: детальную документацию (источник для docs.antigma.ai), протокол и клиентские SDK (crates/protocol-shape, crates/ante-sdk), поддержку Agent Client Protocol (ante-acp), примитивы исполнения (crates/exec), LLM-абстракции (crates/llm) и пайплайн оценки (ante-harbor/). Ядро харнесса пока развивается в приватном репозитории и поставляется как бинарник.

Проект лицензирован под Apache 2.0 для исходного кода; бинарник бесплатен для коммерческого использования во время alpha-превью. Ante работает на macOS и Linux; для Windows рекомендуется WSL.