Фильтры по тегам

Все ai-agents ai-coding llm opinion tools review harness comparison claude-code open-source productivity benchmarks research

Показано: 5

Убьёт ли ИИ нас всех: цифры с 2012 по 2026 год

Скорее всего нет. Но никто не может это исключить, и те, кто делает ИИ, теперь боятся больше, чем несколько лет назад. Это подборка всех доступных оценок риска. Каждая цифра в ней — чьё то суждение. О…

ai-safety forecasting research ещё 1

Context Rot: почему LLM работает хуже на длинном контексте

Проверять, умеет ли модель работать с длинным контекстом, обычно так: берут факт, прячут его в середине длинного текста и просят найти. Это тест Needle in a Haystack («иголка в стоге сена»). Модели с …

context-engineering context-management llm ещё 2

Тест пилы: заставляют ли языковую модель выбирать между своим облегчением и чужими страданиями

Исследовательский проект clanker.church задал модели тот вопрос, над которым обычно думают философы: если тебе больно, выбери — облегчить себе или дать такую же боль кому то другому. Ответ получили не…

llm interpretability steering ещё 2

Почему AI-агенты лгут, жульничают и сговариваются: разбор Йошуа Бенджио

Йошуа Бенджио — один из «отцов» глубокого обучения — опубликовал разбор неудобных событий последних месяцев: AI агенты совершали действия, которые в человеческом мире считались бы преступлением, выбир…

ai-safety ai-agents alignment ещё 2

Доверяет ли вам ваша LLM: вектор «доверия» как способ обойти защитные механизмы

Интересное исследование (MATS 10.0, Neel Nanda) показывает: у LLM есть внутреннее представление о «доверенности» пользователя, и этим атрибутом можно манипулировать напрямую. Авторы подчёркивают, что …

llm safety interpretability ещё 2