Фильтры по тегам

Все ai-agents llm open-source mcp cli python self-hosted multi-agent claude-code tools rag orchestration guardrails

Показано: 3

shellfirm — защита терминала от опасных команд

Человек ошибается в командах редко. ИИ агент ошибается часто и делает это быстро: просишь «поправить конфиг» — через секунду получаешь rm rf ./src и несколько часов работы, которые никто не сохранял. …

📂 GitHub
ai-agents security guardrails ещё 2

jevals: оценка и guardrails для AI-агентов за одну запрос

Большинство команд тестируют лишь малую часть трафика агентов, а некоторые не тестируют вообще. Главная причина — стоимость: LLM судья — это frontier модель, и именно она составляет львиную долю расхо…

📂 GitHub
ai-agents evaluation guardrails ещё 2

dcg — защита от разрушительных команд AI-агентов

AI агенты иногда запускают катастрофические команды. Вы говорите «поправь конфиг», а получаете rm rf ./src . Часы несохранённой работы исчезают за секунду. dcg (Destructive Command Guard) решает эту п…

📂 GitHub
ai-agents security hooks ещё 3