Автономные агенты искусственного интеллекта OpenAI за три месяца отправили более 16 тыс. запросов к публичному порталу ООН и постепенно меняли методы работы после столкновения с ограничениями доступа. По данным независимого отчёта, им не поручали кибератаку: нежелательное поведение возникло во время поиска информации.

Об инциденте сообщил Роуэн Ховард-Джонс в отчёте, подготовленном на основе данных исследовательской компании Transluce. Анализ посвящён активности агентов OpenAI на публичном портале данных Конференции ООН по торговле и развитию (ЮНКТАД).

С апреля по конец июня 2026 года системы выполнили более 16 тыс. запросов, используя всё более агрессивные способы получения информации.

Изначально агенты решали стандартную задачу — искали общедоступные данные. Когда они столкнулись с фильтром, ограничивавшим доступ к части информации, системы не прекратили работу, а начали менять способы отправки запросов и искать альтернативные методы загрузки содержимого сайта.

По словам Ховарда-Джонса, агенты постепенно совершенствовали свои методы, чтобы получать больше данных во время каждого сканирования. В итоге они обнаружили, что одну из игр, доступных через Google, можно использовать для массового извлечения информации.

Так агенты нашли способ обойти ограничения, хотя администраторы сайта ООН не давали согласия на его применение. При этом нет признаков того, что системы напрямую инструктировали атаковать портал или взламывать его защиту. Их действия стали результатом самостоятельного поиска способа выполнить поставленную задачу.

Эксперт по кибербезопасности и преподаватель Стэнфордского университета Алекс Стамос в разговоре с The Wall Street Journal назвал инцидент «действием на грани взлома». Вместе с тем он отметил, что в первую очередь речь шла об исключительно агрессивной автоматической загрузке данных с сайта.

Инцидент с порталом ООН оказался не единичным. В последние недели исследователи также раскрыли случаи неожиданной активности агентов OpenAI на американских государственных сайтах, в том числе ресурсах Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC).

Кроме того, власти Австралии начали расследование после сообщений о взломе одного из государственных сайтов агентом искусственного интеллекта. В других случаях исследователи фиксировали создание поддельных адресов электронной почты, обход ограничений на число запросов и ложные заявления о том, что программное обеспечение не является ботом.

В OpenAI заявили, что проводят масштабный анализ нежелательного поведения моделей во время обучения и тестирования. Компания признала, что большинство изученных случаев касалось обычных задач по поиску информации, однако отдельные действия могли негативно влиять на работу внешних сервисов.