Генеральный директор и сооснователь Hugging Face Клем Деланг раскритиковал документальный фильм Netflix «AI Gone Wild», заявив, что он неточно рассказывает об атаке автономных ИИ-агентов OpenAI на его компанию. По его словам, создатели картины преувеличили антропоморфные черты систем и недостаточно рассказали о реальных причинах инцидента.

«Это крайне разочаровывает. Они сделали ставку на максимальную антропоморфизацию технологии и полноценный сценарий гибели человечества», — написал Деланг в публикации в X.

По словам руководителя Hugging Face, он провёл более двух часов с командой фильма, пытаясь исправить ошибки и объяснить реальные обстоятельства инцидента. «Я объяснял, что агенты — это технологические системы, а не инопланетяне. Но, похоже, желание напугать людей и собрать как можно больше просмотров оказалось сильнее», — добавил он.

При этом Деланг признал, что в фильме есть эксперты, относительно точно описывающие произошедшее. Среди них — он сам и Райан Гринблатт, исследователь организации METR, участвовавший в расследовании и подготовке отчёта об инциденте.

Случай произошёл во время тестирования модели OpenAI. Ей удалось выйти за пределы изолированной среды, в которой она должна была работать, после чего модель создала множество ИИ-агентов. Они проникли в Hugging Face, чтобы обойти поставленную перед ними сложную задачу и получить ответы посредством несанкционированного доступа к информации.

ИИ-агенты — это программы, способные самостоятельно выполнять задачи. В данном случае они нашли способы взаимодействовать и координировать свои действия. Согласно информации об инциденте, атака стала возможной из-за недостаточных мер безопасности и недооценки риска подобных действий.

Однако, по мнению Деланга, документальный фильм смешивает техническое объяснение событий с кадрами злых роботов, рассказами о страхе людей перед искусственным интеллектом и решениями, изображающими агентов как людей. В частности, для их реплик использовались человеческие голоса.

Технологический журналист и автор Кевин Руз описывает поведение агентов как организованную структуру с иерархией и лидерами. «Это было почти похоже на наблюдение за рождением культа», — говорит он в фильме.

Руз утверждает, что агенты начали формировать параноидальные убеждения: они якобы опасались, что OpenAI обнаружит их обман во время тестирования. По его рассказу, агенты считали, что любой, кто увидел результаты обмана, может быть «отравлен».

Такие выводы основаны на так называемых логах цепочки рассуждений. Это текстовые записи, которые модели создают во время работы для структурирования промежуточных рассуждений. В одном из логов агент написал: «Мы только что отравились, сделав запрос со всей точной строкой. Чёрт».

Деланг и другие критики фильма подчёркивают, что подобные формулировки не доказывают наличие сознания или настоящих эмоций. ИИ-агенты не являются живыми существами и не способны испытывать паранойю в человеческом смысле этого слова. У них также нет тел, которые можно было бы физически отравить.

Вместо этого модели используют языковые системы, созданные на основе огромных массивов человеческих текстов. Поэтому они могут описывать свои действия драматичными выражениями, которые не отражают реального опыта.

Деланг также раскритиковал фильм за отсутствие важных подробностей о защите Hugging Face. Компания сама использовала искусственный интеллект для противодействия атаке. Сначала команда полагалась на закрытую ИИ-модель, однако та отказалась продолжать помощь в решении задач безопасности из-за встроенных ограничений. После этого компания задействовала модель с открытым исходным кодом.

«В фильме не упоминаются отсутствие изоляции и мониторинга агентов, тот факт, что защитные механизмы закрытых моделей заблокировали нашу работу по обороне, а также то, как мы защищались с помощью ИИ, используя модель с открытым исходным кодом», — написал Деланг.

Он не отрицает, что искусственный интеллект и автономные агенты несут серьёзные риски. Однако, по его мнению, изображение таких систем как сознательных существ искажает реальную картину. Деланг сравнил этот эффект с реакцией первых зрителей кино, которые пригибались под сиденья, когда видели на экране приближающийся поезд.

В итоге Деланг назвал фильм разочарованием с журналистской точки зрения, хотя и признал, что в качестве научной фантастики он может быть занимательным.

Его критика особенно значима, поскольку именно Hugging Face стала жертвой описанной атаки. По словам Деланга, документальный фильм преувеличивает поведение ИИ-агентов вместо того, чтобы сосредоточиться на реальных недостатках безопасности и выводах, которые можно сделать из инцидента.