Magnitude — локальный AI-агент со встроенными моделями

Magnitude — open-source AI-агент с локальными моделями «в коробке». Проект позиционирует себя как полностью приватный и офлайн: модель, ваш код и все данные остаются на вашей машине. Агент написан на TypeScript, распространяется под лицензией Apache 2.0 через npm-пакет @magnitudedev/cli и, по заверению авторов, работает «из коробки на любом железе».

Главная идея Magnitude в том, чтобы убрать самый неудобный шаг на пути к локальному AI — настройку вывода (inference). Обычно при работе с локальными моделями нужно отдельно ставить Ollama или аналог, вручную узнавать, какая модель потянется на вашей машине, скачивать её и конфигурировать интеграцию. Magnitude делает всё это сам.

Почему Magnitude?

Авторы перечисляют несколько ключевых преимуществ:

• Полная приватность и офлайн. Всё остаётся на вашей машине, включая сами модели. Промпты и файлы не уходят в облако.
• Модели для любой машины. Агент профилирует ваше железо и рекомендует лучшие модели под него.
• Работает из коробки. Не нужно ставить Ollama, отдельный model server или настраивать inference — никаких ручных манипуляций.
• Скиллы. Magnitude расширяется скиллами для работы с Excel, PDF, Chrome и другими инструментами.
• Бесплатно. Никаких токен-костов, API-ключей, подписок и rate limits.
• Открытый исходный код. Лицензия Apache 2.0, код можно инспектировать и модифицировать.

Установка и первый запуск

Установка тривиальна и занимает буквально две команды:

npm install -g @magnitudedev/cli
cd your-project
magnitude

Инструмент поддерживает macOS и Linux; на Windows — через WSL. Уже на первом запуске Magnitude берёт на себя всё: оценивает характеристики машины, рекомендует подходящую модель, скачивает и конфигурирует её, после чего запускает прямо внутри агента. Пользователю ничего настраивать не нужно.

Как это работает: профилирование железа

Ключевое отличие Magnitude от простых обёрток над локальными моделями — встроенная логика подбора. У проекта нет фиксированного минимального hardware-требования: агент анализирует вашу конфигурацию и рекомендует модели, которые будут работать именно на ней.

Чем больше оперативной памяти у машины, тем более крупные модели она может запускать. Это важный момент: современные локальные LLM (в формате GGUF) устроены так, что при квантизации часть модели может поместиться в оперативную память, а размер контекста и скорость инференса напрямую зависят от объёма RAM и возможностей GPU. Magnitude снимает с пользователя необходимость разбираться в этих деталях — он смотрит на железо и выбирает модель сам.

Skills — расширение возможностей агента

Скиллы в Magnitude — это переиспользуемые возможности агента, аналогичные скиллам в других агентных системах. Они позволяют выйти за рамки простого редактирования текста: работать с офисными документами, PDF, управлять браузером и так далее.

Хороший источник готовых скиллов — skills.sh, каталог скиллов от Vercel. Разработчики Magnitude рекомендуют несколько конкретных скиллов, которые подключаются одной командой npx skills add:

npx skills add vercel-labs/agent-browser   # управление вашим авторизованным Chrome
npx skills add anthropics/skills/xlsx      # чтение и создание Excel-таблиц
npx skills add anthropics/skills/pptx      # создание PowerPoint-презентаций
npx skills add anthropics/skills/docx      # чтение и запись Word-документов
npx skills add anthropics/skills/pdf       # чтение, заполнение и создание PDF

Это удобная модель: ядро агента остаётся минимальным, а функциональность наращивается точечно, под конкретные задачи. Заодно Magnitude подтверждает совместимость с экосистемой скиллов Anthropic — между различными агентными системами сейчас складывается общий формат скиллов, и это большой плюс для переиспользования.

Приватность и полный офлайн

Один из центральных вопросов локальных агентов — куда уходят данные. Авторы отвечают прямо: данные никуда не уходят.

• Промпты и файлы остаются на вашей машине;
• модели скачиваются на локальный диск;
• после того как Magnitude и модель загружены, агент можно использовать вообще без интернета.

Для сценариев, где данные чувствительны — внутренние кодовые базы, документы с NDA, работа в изолированных сетях — это ключевое преимущество. Вы получаете агента уровня «всё своё», без компромиссов по приватности.

Модели вне каталога и свои endpoint'ы

Поддержка локальных моделей не ограничивается встроенным каталогом:

• Можно скачивать совместимые GGUF-модели с Hugging Face и использовать их в Magnitude (инструкция есть в документации).
• Можно подключать собственный проприетарный inference-сервер: Magnitude умеет работать с любым OpenAI-совместимым endpoint'ом и использовать его модели (см. custom endpoints).

То есть, если хочется локальную маленькую модель для повседневных задач и мощную (или специализированную) — через собственный сервер, — это один гибкий инструмент вместо нескольких.

Чем Magnitude отличается от Ollama и подобных

В FAQ проекта это разложено очень чётко:

Ollama запускает локальные модели. Hermes — агент, который может использовать локальные модели. Magnitude объединяет оба подхода в одном: он профилирует ваше железо, рекомендует и скачивает модели, затем конфигурирует и запускает их внутри агента. Больше ничего настраивать не нужно.

Фактически Magnitude закрывает разрыв между двумя категориями инструментов:

• model runtimes (Ollama и аналоги), которые дают «голый» API к локальной модели, но не умеют работать с вашим репозиторием;
• coding agents, которые работают с кодом, но рассчитаны на облачные API.

Magnitude подходит с другой стороны: это полноценный агент, который сам заботится о своей локальной модели. Такой подход снижает порог входа для людей, которые хотят попробовать агентную разработку полностью локально, но не готовы разбираться с настройкой inference.

Кому подойдёт Magnitude

Первая аудитория — разработчики, которые хотят агентную разработку целиком локально. Это люди, у которых чувствительные кодовые базы, работа в изолированных сетях или просто нежелание отдавать свои данные облачным API. Раньше им приходилось собирать свой стек из runtime, модели и агента; Magnitude предлагает всё в одном пакете, где первый запуск занимает минуты.

Вторая аудитория — те, кто хочет оценить возможности современных локальных моделей без глубокой экспертизы в инференсе. Не нужно выбирать квантизации, разбираться с параметрами контекста и ограничениями GPU: агент сам порекомендует модель исходя из профиля машины. Это заметно снижает порог входа.

Наконец, Magnitude пригодится и тем, кто уже пользуется локальными моделями, но хочет управлять и каталогом, и моделями извне в одном инструменте: скаченные GGUF-модели с Hugging Face подключаются напрямую, а собственные OpenAI-совместимые серверы работают без переключения тулзов. Один же агент закрывает оба сценария — от маленькой офлайн-модели для рутины до мощного сервера для сложных задач.

Проект и лицензия

• Язык реализации: TypeScript
• Лицензия: Apache License 2.0
• Репозиторий: github.com/magnitudedev/magnitude
• Документация: docs.magnitude.dev
• CLI reference: docs.magnitude.dev/reference
• Сайт: magnitude.dev

Сообщество проекта общается в Discord, а на GitHub можно сообщить о проблеме. Проект молодой и быстро развивается — недавно в его задачу активно растут звёзды и форки.

Вывод

Magnitude — интересный представитель растущего класса «агентов, которые приносят модель с собой». Он решает главную боль локального AI — настройку и подбор моделей под конкретное железо — и предлагает единый инструмент с развилкой на скиллы, GGUF-модели извне и собственные OpenAI-совместимые серверы.

Для разработчиков, которым важны приватность, отсутствие API-ключей и работа в офлайне, это один из самых «из коробки» вариантов: npm install -g @magnitudedev/cli, magnitude — и агент уже работает на вашей машине.