ИИ-галлюцинации и горы цифрового мусора

Источник: «Я больше не программист»: Торвальдс рассказал, почему перестал писать код и за что ругает ИИ | dev.by https://share.google/HpD9bxVyrMbQuUy9c

Дискуссия не обошлась без больших языковых моделей. Торвальдс сразу с иронией отказался от своих прошлых заявлений о том, что ИИ якобы повышает продуктивность разработчиков в 10 раз. Он назвал эту цифру «взятой с потолка». По его мнению, индустрия только-только подходит к моменту, когда ИИ начинает приносить чуть больше пользы, чем вреда, но до недавнего времени ситуация была обратной:

«Вплоть до начала этого года мы видели гораздо больше сгенерированного LLM мусора, чем полезного кода. Огромной проблемой стали фальшивые отчёты об ошибках. Вы получаете баг-репорт, который выглядит абсолютно убедительно, и у людей уходит куча сил и времени на то, чтобы понять, что это просто галлюцинация ИИ. Это колоссальный слив человеческих ресурсов».

Создатель Linux подчеркнул, что сообщество начало фильтровать такие отчёты. Теперь от разработчиков требуют не просто перебрасывать сгенерированный баг-репорт, а лично проверять его, предлагать рабочий патч и выступать живым посредником между ИИ и ядром. Подавляющее большинство автоматических ИИ-решений Торвальдс назвал «бездумными пластырями», которые устраняют симптомы, но не лечат саму архитектурную ошибку.

Большие глупости и право на ошибку

Впрочем, Торвальдс признает, что иногда нейросети находят действительно уникальные и болезненные баги — например, уязвимости безопасности, которые оставались незамеченными десятилетиями, а через два дня после обнаружения ИИ уже попадают на первые полосы профильных СМИ: «Я не из тех, кто убивает гонца, принесшего плохие новости. Думаю, нам гораздо лучше от того, что LLM находят эти баги, пусть это неловко — ведь эти вещи мы должны были обнаружить ещё лет двадцать назад».

Сам Линус использует ИИ исключительно для своих личных небольших проектов в качестве инструмента для быстрого прототипирования. Он отмечает, что код в чистом виде оттуда брать нельзя, но прикинуть общую концепцию модели помогают отлично. При этом для серьёзных исправлений на уровне ядра операционной системы нейросети, по его опыту, пока категорически не дотягивают.