Monty — песочница Python на Rust для кода, написанного ИИ

· 5 мин чтения
python rust sandbox code-execution llm
📂 Исходный код на GitHub

Защищённая песочница Python, написанная на Rust, для кода, созданного ИИ. Старт новой песочницы из пула занимает меньше 1 мс, внутри нет файловой системы, сети и переменных окружения, а хост доступен только через переданные вами функции.

Monty — песочница Python на Rust для кода, написанного ИИ

Monty — защищённая песочница для Python, написанная командой Pydantic на Rust. Она создана для запуска кода, который генерируют языковые модели. Проект распространяется по лицензии MIT, у репозитория около 9 тысяч звёзд на GitHub. Формально Monty поддерживает синтаксис Python 3.14 и уже лежит в основе Code Mode в Pydantic AI.

Зачем нужна ещё одна песочница

Когда агент пишет код, его нужно где-то безопасно выполнить. Обычно для этого берут Docker или облачный сервис песочниц. У контейнерного подхода есть три беды: задержка, сложность и цена. Типовой сервис песочниц создаёт новое окружение примерно за полторы секунды, и агент всё это время ждёт.

Авторы Monty пошли другим путём. Вместо того чтобы изолировать целый контейнер, они написали компактную виртуальную машину Python на Rust, внутри которой опасных возможностей просто нет. Песочница стартует меньше чем за миллисекунду, а её пакет весит около 4,5 МБ.

Как устроена изоляция

Внутри Monty у кода нет ни файловой системы, ни сети, ни переменных окружения. Не с чем взаимодействовать — значит, нечего атаковать. Модель безопасности описана в документации, а суть сводится к двум механизмам:

  • Внешние функции. Код в песочнице может вызывать функции, которые вы передали при запуске. Выполняются они на хосте, вне песочницы, а код видит только возвращённое значение. Так модель получает доступ к вашим API и данным, но напрямую к ним не обращается.
  • Монтирования. Файлы попадают в песочницу точечно, через явно указанные каталоги.

Лимиты памяти и времени исполнения контролирует сама виртуальная машина, а не операционная система. Например, выражение 'x' * 10**12 вызывает MemoryError ещё до попытки выделить память. Подробности — в разделе про лимиты ресурсов.

Скорость

Авторы опубликовали замеры в сравнении с альтернативами. Колонка «всего» — это запуск новой песочницы плюс десять команд REPL:

Вариант Новая песочница 10 команд REPL Всего
Monty, тёплый пул 0,8 мс 0,4 мс 1,2 мс
Monty, сервер (коммерческая версия) 2 мс 5 мс 7–10 мс
WASI (wasmtime) 16 мс 180 мс 200 мс
Docker (docker exec) 195 мс 700 мс 900 мс
Сервис песочниц (Daytona) 1500 мс 400 мс 1900 мс
Pyodide (Deno) 2700 мс 35 мс 2700 мс

Разрыв с Docker — в сотни раз. Секрет в том, что Monty держит постоянный интерпретатор: сессия живёт между вызовами, и команды не приходится выполнять заново. У конкурентов без постоянного интерпретатора каждый вызов повторяет всю историю с первой команды.

Рабочий процесс Monty занимает около 2 МБ сверх лимита памяти. На одной машине умещаются сотни песочниц.

Снапшоты

Состояние песочницы можно целиком сохранить в байты в момент вызова внешней функции или после команды REPL. Такой дамп весит несколько килобайт — у снимков микровиртуальных машин счёт идёт на сотни мегабайт. Дамп можно восстановить один раз или размножить на множество копий. Подробнее о механике — в описании снапшотов.

Это открывает три сценария. Долгий вызов внешней функции не держит процесс — песочницу можно заморозить и продолжить позже. Шаги с участием человека приостанавливаются на минуту или на день. Долгие REPL-сессии переживают перезапуск без потери состояния.

Пример

Модель попросили посчитать, сколько времени плитка шоколада будет питать лампочку. Вот код, который она написала, и его запуск в Monty:

from pydantic_monty import Monty

code = """
kcal = nutrition('chocolate bar')['kcal']
hours = kcal * 4184 / (bulb_watts * 3600)
print(f'a chocolate bar powers a {bulb_watts} W bulb for {hours:.1f} hours')
"""

with Monty() as pool:
    with pool.checkout() as session:
        session.feed_run(
            code,
            inputs={'bulb_watts': 10},
            external_lookup={'nutrition': lambda food: {'kcal': 230}},
        )
        #> a chocolate bar powers a 10 W bulb for 26.7 hours

Функция nutrition выполнялась на хосте, а песочница увидела только её результат. Входные данные передаются через словарь inputs.

Подмножество Python

Monty — не полный Python, а подмножество. Формулировка авторов: «достаточно Python, чтобы модель могла выразить то, что хочет». Там, где поведение реализовано, оно совпадает с CPython 3.14. Полный список отличий собран на странице ограничений.

Что поддерживается:

  • функции, замыкания, лямбды, декораторы;
  • простые классы и @dataclass, сопоставление образов match по PEP 634;
  • списковые, словарные и множественные включения, f-строки;
  • полноценная обработка исключений, with, базовый asyncio;
  • около 30 модулей стандартной библиотеки: json, math, re, datetime, pathlib, random, typing и другие.

Что отклоняется ещё на этапе разбора кода с ошибкой NotImplementedError:

  • генераторы: yield и yield from не работают;
  • метаклассы;
  • декораторы методов @classmethod, @staticmethod, @property;
  • инструкция del;
  • конструкции async with, async for и асинхронные включения.

Сторонние пакеты не устанавливаются, sys.path нет. Модули socket, subprocess, threading, multiprocessing, ctypes отключены по замыслу — без них из песочницы некуда сходить. Есть и поведенческие отличия: map, zip, filter и enumerate вычисляются сразу, а не лениво, как в CPython; регулярные выражения работают через движок Rust и не принимают байтовые шаблоны.

Если подмножества не хватает, коммерческая версия умеет передавать вызовы в полноценный CPython.

Установка

uv add pydantic-monty        # Python
npm install @pydantic/monty  # JavaScript / TypeScript
cargo add monty              # Rust

Быстрые руководства для каждого языка: Python, JavaScript и Rust. Вклад в проект принимают по отдельным правилам.

Code Mode и экосистема

Monty запускает Code Mode в Pydantic AI. Идея подхода: вместо десятков отдельных вызовов инструментов агент пишет один скрипт на Python, который обращается к нужным функциям. Тот же паттерн продвигают Cloudflare (code mode), Anthropic (programmatic tool calling) и Hugging Face (smolagents). Monty — готовая безопасная прослойка для него.

У проекта есть биндинги от сообщества: gomonty для Go и dart_monty для Dart и Flutter.

Коммерческая версия

Помимо открытой библиотеки Pydantic предлагает Commercial Support — тот же движок песочницы за gRPC-сервисом, поставляемым как контейнерный образ. Он добавляет изоляцию на уровне операционной системы, горизонтальное масштабирование и проксирование вызовов в полноценный CPython. Старт новой песочницы на сервере занимает около 2 мс.

Monty — часть стека Pydantic, куда также входят агентный фреймворк Pydantic AI, платформа наблюдаемости Logfire и шлюз Logfire AI Gateway.

Источник: https://github.com/pydantic/monty