Сооснователь Microsoft Билл Гейтс планирует лично убедить президента США Дональда Трампа поддержать строгие правила регулирования искусственного интеллекта. Гейтс предупреждает, что бесконтрольное развитие технологии может дать преступникам оружие опасной силы, тогда как Трамп опасается потери американского преимущества перед Китаем.

Билл Гейтс считает, что для искусственного интеллекта необходимы обязательные государственные ограничения. По его мнению, отсутствие надзора повышает риск того, что передовые системы будут использованы преступниками для биотерроризма или масштабного финансового мошенничества.

Выступая в эфире NBC News, сооснователь Microsoft заявил, что ИИ в неподходящих руках может оказаться «достаточно мощным, чтобы вызвать события, которые приведут к гибели миллиарда человек». Он также сказал: «Никогда не существовало настолько мощного оружия, как сочетание действий людей со злыми намерениями и новейших инструментов ИИ».

Гейтс призвал не сосредотачиваться на сценариях из научной фантастики, а противодействовать реальным угрозам со стороны преступников. По его словам, технология становится усилителем крайне опасных человеческих действий.

Тем временем технологическая отрасль предпринимает шаги для контроля наиболее продвинутых систем. OpenAI временно приостановила разработку новых моделей после серии инцидентов, связанных с безопасностью. Другие лаборатории, включая Anthropic, начали сотрудничать с независимыми аудиторами для проверки своих решений.

Дискуссия о будущем ИИ постепенно перемещается из инженерной среды в сферу политики. Обсуждаются международные правовые рамки, которые обязали бы технологические компании применять защитные меры, а также конкретные механизмы контроля — например, предложенный губернатором Калифорнии аварийный выключатель.

Гейтс отметил, что создание глобальных правил для отрасли будет чрезвычайно сложной задачей. «Убедить государства регулировать искусственный интеллект будет сложнее, чем вести переговоры о ядерном оружии во времена холодной войны», — сказал он.

По словам Гейтса, техническая сложность систем и повсеместный доступ к программному обеспечению затруднят проверку соблюдения правил. Кроме того, отключение питания не поможет в случае распределенных информационных систем. США, считает он, должны возглавить работу над международным соглашением.

Саморегулирование технологических компаний оказалось недостаточным с учетом масштаба потенциальных угроз. «Нужно, чтобы правоохранительные органы и политики включились в обсуждение того, как должны работать меры защиты и мониторинг», — заявил бывший генеральный директор Microsoft.

Гейтс выступает за жесткие законодательные требования для всех поставщиков программного обеспечения. Они увеличат операционные расходы компаний, но, по его мнению, не остановят технологический прогресс. Полное отсутствие ограничений он назвал крайне безответственным подходом.

Теперь Гейтс намерен лично попытаться изменить позицию Трампа. В качестве аргументов он рассчитывает использовать опыт превращения Microsoft в мировую технологическую корпорацию и четверть века работы во главе компании — с 1975 по 2000 год. При этом прежние попытки повлиять на решения администрации США по другим вопросам не дали ожидаемого результата.

«Я надеюсь, что с учетом всей моей работы в этой сфере мои слова о том, насколько это исключительное явление и насколько я обеспокоен, добавят веса тому, что Трамп слышит от других людей», — сказал миллиардер.

Катастрофические прогнозы в отношении ИИ критикуют некоторые исследователи и аналитики. Сценарии, предполагающие гибель человечества или создание искусственной пандемии, иногда называют преувеличенными и предназначенными для привлечения внимания. Хуан Андрес Герреро-Сааде из SentinelOne считает, что подобные нарративы могут быть следствием высокомерия сотрудников исследовательских лабораторий. Также высказывалось мнение, что такие предупреждения являются китайской пропагандой, призванной ослабить американских конкурентов.

На доверие к Гейтсу влияют и противоречивые обстоятельства его личной жизни. Его контакты с осужденным преступником Джеффри Эпштейном и романтические связи, среди прочего, привели к разводу в 2021 году. Эти отношения также способствовали охлаждению многолетних связей с другими влиятельными представителями делового мира, включая Уоррена Баффетта.

Трамп подтвердил, что планирует поужинать с главой Anthropic Дарио Амодеи. При этом президент США решительно выступает против замедления разработки новых систем, объясняя позицию необходимостью сохранять преимущество над зарубежными конкурентами.

Трамп считает, что дополнительные законодательные ограничения могут дать Китаю возможность обогнать американскую технологическую отрасль. «У нас примерно полуторагодовой отрыв от Китая. Мы лидируем и создаем [отрасль] стоимостью в квадриллионы долларов. И зачем нам от этого отказываться?» — сказал президент в интервью Fox News.

Руководители и разработчики OpenAI, Google DeepMind, Microsoft и xAI приводили различные доводы в пользу усиления контроля. В некоторых случаях их системы демонстрировали тревожную активность, однако Трамп, согласно материалу, не придает этим сообщениям значения. На информацию об инцидентах с автономными агентами он ответил: «Я не беспокоюсь об этом».

Опасения, напротив, выражают технологические эксперты, ученые, политики и обычные граждане. Бывший исследователь Anthropic Джейкоб Коксон предупредил о риске полного уничтожения человечества к концу десятилетия. Это побудило законодателей активизировать работу над регулированием.

Похожую оценку дал Эван Хубингер из Anthropic, который оценил вероятность подобных событий более чем в 10%. Гейтс отверг утверждения о том, что риск является выдумкой. «Это вовсе не мистификация», — заявил основатель Microsoft в интервью NBC, возражая Трампу, который ранее назвал предупреждения отраслевых экспертов именно так.