Пять доводов не любить ИИ-кодинг

Грэм ведёт блог Structure and Interpretation of Computer Programmers и уже давно пишет об ИИ в разработке. Его обычный приём — сначала собрать аргументы против новой технологии, а потом честно показать, чего в них не хватает. В октябрьском посте он разобрал пять причин, по которым ИИ-кодинг можно не любить. Пост короткий, но каждая причина разобрана подробно: автор не просто приводит довод, а показывает, при каких дополнительных допущениях этот довод вообще работает.

Код как искусство

Первый довод самый старый и самый частый. Если считать программный код художественным произведением, то сгенерированный код — не настоящее искусство. В нём нет того, что автор называет творческой неуловимостью: ощущения, что вещь сделал человек и в ней есть что-то, не сводимое к набору приёмов. У ИИ этого нет по построению.

Обычно против этого довода есть ответ: заказчикам программного обеспечения нужно не искусство, а результат. И это правда — люди платят за работающий продукт, а не за эстетику исходников. Но автор идёт дальше. Он замечает, что такой ответ рушит довод с двух сторон сразу: если результат не зависит от того, как его сделали, то сгенерированный код — не искусство, но и написанный руками код тоже не становится от этого искусством.

Значит, чтобы доказать, что ИИ-кодинг «обесценивает» код, нужно принять два положения как аксиомы. Первое: вещи, которые можно считать искусством, должны делаться только людьми. Второе: именно этот набор инструментов отделяет человека от работы сильнее, чем любой другой набор инструментов за всю историю вычислительной техники. Второе положение автор считает явно неправдоподобным: ни одна предыдущая ступень автоматизации не была настолько далёкой от человека, как генеративные модели. Пост «Искусство или инструмент?» он уже писал раньше — там та же линия рассуждения.

ИИ крадёт работу

Второй довод — про рынок труда. Если считать, что вам платят именно за набор кода, то появление у работодателя машины, которая умеет набирать код, означает, что машина украла вашу работу. Логика на бытовом уровне кажется безупречной.

Автор отвечает на неё так же, как отвечал в посте «О рабочих машинах». Набирать код никогда не было самой работой. Работой было создавать полезное программное обеспечение. Тот, кто и сейчас делает именно это, спокойно получает деньги от организаций, которым это нужно. И спрос на такую работу не уменьшается — он растёт по мере того, как создание приложений становится дешевле.

Это же объясняет, почему тезис «ИИ украл мою работу» не убеждает и обижает лично. Он бьёт не по той цели. Машина меняет не задачу, а стоимость её выполнения. Сама задача остаётся.

Человек как посредник для машины

Третий довод самый неудобный. Если считать, что создание программ — это работа между людьми, то весь конвейер с ИИ выглядит обесчеловечивающим: описание задачи составила программа, человек превратил его в промпт, программа по промпту написала новую программу. Человек в этой цепочке — прослойка между двумя машинами, которая передаёт сигнал дальше.

Общество шло к этому столетиями, и автор подкрепляет это цитатой из «Фрагмента о машинах» Карла Маркса, написанного около 1857–1858 годов:

…однажды принятое в производственный процесс капитала, средство труда проходит через различные метаморфозы, вершиной которых является машина, вернее — автоматическая система машин (система машин: автоматическая есть лишь самая полная, самая адекватная её форма, и только она превращает машину в систему), приводимая в действие автоматом, движущейся силой, которая движет сама себя; этот автомат состоит из множества механических и интеллектуальных органов, так что сами рабочие оказываются лишь его сознательными звеньями. […]

Накопление знания и навыка, всеобщих производительных сил общественного мозга, поглощается, таким образом, капиталом в противоположность труду и тем самым выступает как свойство капитала, точнее — постоянного капитала, поскольку оно входит в производственный процесс как собственно средство производства.

Перевод мой. Смысл цитаты такой: и механический, и умственный труд всегда предполагалось заменить машинами. Маркс писал это, размышляя, скорее всего, о труде математика — о Чарльзе Бэббидже, своём современнике, чьи вычислительные машины тогда ещё только проектировались.

Отсюда автор делает вывод, который важнее самой неприязни к процессу. Работу отнимает не технология — её отнимает способ производства. А поскольку программирование есть умственный труд, то средство производства здесь буквально наши головы. А то, что можно захватить, — тем более стоит захватить.

Программная инженерия как набор правил

Четвёртый довод подсказан книгой Бертрана Мейера «AI for Smarties». Если считать, что программная инженерия — это аккуратное применение загадочного знания опытных инженеров, которое записано в правила (принципы SOLID, «предпочитай композицию наследованию», доклад «Используй сильные стороны своего типа», закон Деметры и так далее), то ИИ не может писать программы. Он не применяет эти правила. Он генерирует текст, который случайно компилируется.

Ответ автора — на историю вычислительной техники, а не на свойства моделей. Огромная часть её истории — это не методология, а повторение и подгонка. Код копировали со Stack Overflow и правили, пока не заработает. Переписывали листинг из Numerical Recipes или Sinclair User и правили, пока не заработает. Писали макросы, которые автоматизировали копирование. И так далее. Эмпирический подход — «проверь на практике» — был нормой, а не отступлением от правил.

При этом автор не говорит, что SOLID и закон Деметры бесполезны. Он говорит другое: если правила важны настолько, что без них нет инженерии, то ИИ-кодинг не нарушает правила. Он просто показывает, что правила не покрывают всё, что люди на самом деле делали с кодом десятилетиями.

ИИ-компании как плохие игроки

Пятый довод самый короткий и политический. Если считать, что крупные ИИ-компании управляются людьми, которым человечество не на пользу, то ИИ-кодинг плох именно потому, что он их поддерживает: он направляет ваши деньги и внимание в их сторону. Дальше автор добавляет условие: аргумент работает, пока вы не открываете дорогу альтернативам — новым компаниям, академическим моделям, моделям от сообществ. Если альтернатив нет, выбор сводится к поддержке тех, кто уже есть.

Это самый практичный из пяти доводов, потому что он превращается в конкретное действие: смотреть, кому вы платите и от какой модели зависите.

Что в этом посте

Все пять доводов устроены одинаково. Сначала выдвигается тезис — код это искусство, работа это набор текста, инженерия это правила, ИИ-компании это враг. Тезис звучит убедительно ровно до того момента, пока вы не попросите автора довести его до конца: либо вы признаёте, что за тезисом стоит дополнительное допущение, которое делает его недоказуемым. Дальше он показывает, что допущение не выдерживает проверки фактами, — и разбирает тезис на части.

Это не отмена доводов. Автор их не опровергает — он их уточняет. В большинстве случаев уязвимо оказывается не то, что ИИ делает с кодом, а исходная посылка о том, что такое программирование на самом деле.

Если вы работаете с ИИ каждый день и ни разу не задумывались, что для вас значит сама профессия, — этот пост как раз из тех, после которых стоит вернуться к формулировке «код как искусство» и «инженерия как правила» и решить для себя, какая из версий вам ближе.