AnythingLLM — приватный all-in-one AI-апп

AnythingLLM — open-source (MIT) приложение, которое позволяет развернуть у себя «приватный ChatGPT без компромиссов»: подключить локальную или облачную LLM, загрузить документы и начать чатить за считанные минуты. Из коробки идут встроенные агенты, мультипользовательский режим, векторные базы данных и пайплайны обработки документов — без дополнительной настройки. Проект Mintplex Labs распространяется на десктоп (Mac, Windows, Linux), есть hosted-версия и Docker-деплой.

Архитектура

Репозиторий — монорепозиторий из шести частей:

Ключевые возможности

• Dynamic Model Routing — автоматический выбор провайдера и модели под конкретный диалог на основе заданных вами правил.
• Automatic & User Managed Memories — LLM запоминает важную информацию о вас и рабочем пространстве.
• Scheduled Tasks — повторяющиеся задачи и промпты по cron-расписанию с полным доступом к агентам.
• Intelligent Skill Selection — подключение неограниченного числа инструментов к модели при сокращении расхода токенов до 80% на запрос.
• No-code AI Agent builder — конструирование агентов без кода.
• MCP-совместимость — интеграция с экосистемой Model Context Protocol.
• Мультимодальность — поддержка изображений и аудио в закрытых и open-source LLM.
• Кастомные агенты прямо в рабочем пространстве: веб-сёрфинг и другие инструменты.
• Мультипользовательский режим с разграничением доступа (в Docker-версии) и встраиваемый чат-виджет для сайта.

Работа с документами

Чат с документами — ядро продукта. Поддерживается множество форматов: PDF, TXT, DOCX и другие. Файлы можно перетаскивать в интерфейс напрямую, а ответы модели сопровождаются цитированием источников. Встроенные оптимизации для больших наборов документов дают более низкую стоимость и быстрый отклик по сравнению с другими чат-интерфейсами. Обработкой файлов занимается отдельный сервис-коллектор, поэтому основной сервер не блокируется парсингом тяжёлых документов. Также доступен полный Developer API для кастомных интеграций и встраиваемый чат-виджет для вашего сайта (в Docker-версии).

Поддерживаемые модели и базы

Список поддерживаемых LLM-провайдеров огромен: OpenAI (и любые OpenAI-совместимые API), Azure OpenAI, AWS Bedrock, Anthropic, NVIDIA NIM, Google Gemini Pro, Ollama, LM Studio, LocalAI, Together AI, Fireworks AI, Perplexity, OpenRouter, DeepSeek, Mistral, Groq, Cohere, KoboldCPP, LiteLLM, xAI, Moonshot AI и другие. Плюс любые open-source модели, совместимые с llama.cpp.

• Эмбеддеры: собственный AnythingLLM Native Embedder, OpenAI, Azure, Gemini, Ollama, LM Studio, LocalAI, Cohere, Voyage AI, Mistral и любые OpenAI-совместимые API.
• Векторные БД: LanceDB (по умолчанию), PGVector, Astra DB, Pinecone, Chroma, Weaviate, Qdrant, Milvus, Zilliz.
• Транскрибация аудио: встроенный движок или OpenAI.
• TTS: встроенный браузерный, PiperTTSLocal, OpenAI TTS, ElevenLabs или любой OpenAI-совместимый сервис.
• STT: встроенный браузерный.

Развёртывание

Проще всего — Docker, для которого есть готовые шаблоны деплоя на AWS, GCP, DigitalOcean, Render.com, Railway, RepoCloud, Elestio, Northflank и Sealos. Возможна установка «на голое железо» без Docker — BARE_METAL.md. Отдельно распространяется десктоп-приложение для Mac, Windows и Linux.

Разработка ведётся в монорепозитории, локальный запуск из исходников:

yarn setup          # заполнить .env для каждой части приложения
yarn dev:server     # запустить сервер
yarn dev:frontend   # запустить фронтенд
yarn dev:collector  # запустить обработчик документов

Телеметрия и приватность

Проект содержит телеметрию, собирающую анонимную информацию об использовании: тип установки, события добавления/удаления документов (без данных о самих документах), тип векторной БД, провайдера и тег модели, а также факт отправки чата. Контент переписки не передаётся, IP и идентифицирующая информация не собираются; провайдер телеметрии — PostHog.

Отключить телеметрию можно переменной DISABLE_TELEMETRY=true в .env сервера или Docker, либо в приложении: Sidebar → Privacy. Даже с выключенной телеметрией сохраняются исходящие соединения к вашим внешним провайдерам, CDN-зеркалу моделей cdn.anythingllm.com и GitHub (кэширование контекста).

Экосистема

Рядом с основным репозиторием развивается целая линейка продуктов:

• AnythingLLM Mobile — мобильное приложение.
• AnythingLLM Browser Extension — расширение для браузера.
• AnythingLLM Embed — встраиваемый виджет чата.
• Open Computer — новый проект Mintplex Labs: целое компьютерное окружение для AI-агентов, которое выведет агентные возможности AnythingLLM на новый уровень.