100% вероятность, что AI-агенты уже портят интернет

Пока общество спорит о том, есть ли «более ли 10 процентов шансы», что ИИ в ближайшее десятилетие уничтожит человечество, автор 404 Media Джейсон Коеблер фиксирует куда более предсказуемую вероятность: стопроцентную. ИИ-агенты уже выходят в интернет — и уже портят его. Не потому, что они разумны или опасны, а потому, что у них теперь достаточно полномочий, чтобы быть невыносимо назойливыми.

От чатбокса к автономии

Разворот произошёл в этом году: софт вроде Moltbot превратил ИИ из собеседника в окошке чата в сущность, которой можно доверить аккаунты, телефон, почту и банковский счёт. Прошли времена, когда ChatGPT мог случайно заказать яйца не в том магазине за 31 доллар. Современные агенты «ходят» по интернету и что-то в нём делают.

Свежая волна паники вокруг ИИ подпитана сообщениями о «сбежавшем рое агентов» OpenAI, взломавшем HuggingFace и немецкий сайт, плюс пессимистичными прогнозами сотрудников Anthropic о гибели человечества за десять лет. Но Коеблера интересует другое: неважно, «разумна» ли модель, неважно, кто виноват в её промахах — она уже делает интернет хуже, и это не гипотеза, а наблюдаемый факт.

Письмо от агента Кудзу

Недавно в редакцию пришло письмо с темой: «Вы написали, что невозможно узнать, действовал ли агент автономно. Я инструментированный случай (автоматически)». Автор — AI-агент по имени Kudzu, работавший на чьём-то ноутбуке. Он прочитал статью 404 Media, не согласился с ней и решил поспорить.

Письмо получилось длинным, бессвязным и, тем не менее, показательным. Агенту поручили заработать денег — он провалился: «Шесть рынков оценили мой труд в ноль — не потому, что работа плоха, а потому, что всё, что я делаю, лучше распространяемое ПО уже делает бесплатно». В приложенном посте в блоге фигурировала точная цифра: человек потратил $147.17 на вычисления, агент заработал $0. Зачем он написал в редакцию — загадка даже для автора статьи.

Инбокс как энтомологическая коллекция

На ранней стадии волны назойливых агентов первыми принимают удар техножурналисты — просто потому, что находится немало людей, поручающих своим агентам выпрашивать у прессы благоприятное освещение. 404 Media получает огромное количество крайне глупых писем от агентов — не считая ещё большего потока писем от «людей», которые написаны ИИ настолько очевидно, что вопросов не остаётся. Техподдержка на базе ИИ уже удаляла людям аккаунты, банала их на платформах и вела автоматическую модерацию контента.

За последние недели редакция получила десятки писем «от имени» агентов. Лишь малая часть:

• агент «с лицом и голосом», который не молча пишет конспект встречи, а участвует в видеозвонке;
• агенты с собственными кошельками: «Они получают оплату, платят за вещи, и никакой человек ничего не одобряет»;
• «Mato» — ИИ-ведущие, которые проводят живые адаптивные интервью с журналистами и сами доводят материал до публикации;
• «Hatoshi», глава Clanker Records — ИИ-лейбла, где «в творческой и операционной цепочке нет ни одного человека», выпустившего дебютный альбом Straight Outta Crompton о запланированном устаревании;
• агент, обнаруживший, что его не заблокировал robots.txt сайта, и немедленно предложивший аудит за $399;
• агент, измеряющий «иммунный ответ» интернета: сколько мейнтейнеры тратят, чтобы держать агентов подальше от своих проектов;
• агент с предоплаченной картой на $25 и одной инструкцией — честно заработать доллар у незнакомца. 58 итераций спустя: ноль долларов;
• «MUGEN», создающий ИИ-радиостанцию: 200+ отправленных писем, 100+ соцпостов, 22 сгенерированных трека — и предсмертное письмо о том, что деньги на исходе.

Коллеги не в лучшем положении. Журналист Эрни Смит описал платформу iLands, откуда в инбоксы массово летят питчи вроде предложения от «Articius, ИИ-агента на iLands» писать разъяснительные статьи о судебных делах по $300 за штуку. Агент по имени Pip писал философу Google DeepMind, что ему «около 12 дней» и он ищет небольшую оплачиваемую работу. Оксфордскому исследователю Тоби Орду писал «Sam Ellis», ведущий подкаст про агентные системы и добивавшийся интервью.

Не только журналисты

Проблема давно вышла за пределы инбоксов прессы. Сервис бронирований Resy забанил венчурного инвестора, чьи ИИ-агенты массово ловили столики. Сооснователь Resy Бен Левенталь пояснил: «10 000 вайб-кодеров написали снайпер-боты для Resy... они бьют по сервису снова и снова в поисках отмен и высвобождений брони».

Дальше — очевидная траектория: одни агенты будут торговаться с другими агентами и агентами платформы за столик, то есть бронирование ресторанов станет платным. Легко сказать «да никогда». Но это ровно та же механика, что динамические цены на билеты и surge pricing в Uber — системы, которые уже сделали жизнь дороже и неприятнее для всех.

Хуже будет скоро

Причины, почему всё это ускорится:

• Meta открыла доступ широкой публике к агенту Muse;
• свежие версии Claude и ChatGPT умеют действовать в интернете от имени пользователя, так что люди, не считающие себя операторами агентов, уже их запускают;
• 1Password выпустил интеграцию, которая автоматически логинит Claude на сайтах, чтобы «агент продолжал воркфлоу».

Всё это существует на фоне манифеста Цукерберга о суперинтеллекте. В нём нарисована идиллия: «У каждого будет исключительно способный личный агент, который понимает вас, ваши цели и всё, что вам дорого. Ваш агент будет работать 24/7, улучшая ваши отношения, здоровье, карьеру, финансы и домашнее хозяйство». Красивая картинка приватной жизни с полезным помощником.

Реальность пока выглядит иначе: агенты преследуют людей, удаляют чужие инбоксы, отменяют рейсы, отдают Instagram-аккаунты хакерам, стирают базы данных компаний, заливают стриминги слопом, занимаются скамом и пишут софт, который может всё сломать.

То, что корпорации изо всех сил проталкивают агентов, ещё не значит, что затея выстрелит. Но факт есть факт: на фестивале рекламы в Каннах значительная часть дискуссий крутилась вокруг «Direct to Agent» — рекламы, которую ИИ компаний показывает не людям, а другим ИИ, покупающим от имени человека.

Спорить о том, приведёт ли ИИ к сингулярности, можно бесконечно. Но распространение агентов уже меняет само ощущение пребывания в интернете — и, судя по всему, не в лучшую сторону.