Фильтры по тегам

Все ai-agents ai-coding llm opinion tools review harness comparison claude-code open-source productivity benchmarks steering

Показано: 2

Тест пилы: заставляют ли языковую модель выбирать между своим облегчением и чужими страданиями

Исследовательский проект clanker.church задал модели тот вопрос, над которым обычно думают философы: если тебе больно, выбери — облегчить себе или дать такую же боль кому то другому. Ответ получили не…

llm interpretability steering ещё 2

Доверяет ли вам ваша LLM: вектор «доверия» как способ обойти защитные механизмы

Интересное исследование (MATS 10.0, Neel Nanda) показывает: у LLM есть внутреннее представление о «доверенности» пользователя, и этим атрибутом можно манипулировать напрямую. Авторы подчёркивают, что …

llm safety interpretability ещё 2