Context Rot: почему LLM работает хуже на длинном контексте
Проверять, умеет ли модель работать с длинным контекстом, обычно так: берут факт, прячут его в середине длинного текста и просят найти. Это тест Needle in a Haystack («иголка в стоге сена»). Модели с …