Сооснователь Microsoft Билл Гейтс заявил в интервью CNN, что искусственный интеллект (ИИ) представляет собой самую опасную технологию, созданную человечеством. По его мнению, мир недостаточно подготовлен к рискам, а уже в следующем году наиболее непосредственная угроза может исходить от злоумышленников, использующих модели ИИ с отключенными защитными механизмами.

Гейтс считает, что ИИ нельзя воспринимать лишь как очередной технологический скачок, сопоставимый с появлением персональных компьютеров или интернета. Технология способна гораздо глубже изменить общество и принести значительную пользу, особенно в медицине. Одновременно с этим она создает риски, к которым существующие механизмы контроля пока не готовы.

Гейтс также прокомментировал предупреждения о возможных инцидентах с автономными ИИ-агентами, в том числе о случаях, связанных с внутренними тестами Anthropic и OpenAI. Однако, по его словам, непосредственная опасность заключается не столько в самостоятельном выходе ИИ из-под контроля, сколько в его использовании людьми с преступными намерениями.

«Главная опасность сейчас — не в том, что ИИ выйдет из-под контроля. Мы должны работать и над этой проблемой, но серьезные последствия, вероятно, наступят через несколько лет. Настоящий риск исходит от плохих людей, использующих ИИ, особенно модели, в которых можно отключить все защитные механизмы», — заявил Гейтс.

Одной из наиболее вероятных краткосрочных угроз он назвал кибератаки. Преступники могут применять ИИ для вымогательства, остановки работы сервисов, манипулирования рынками и другими системами, от которых зависят финансовые интересы.

«Мы устанавливаем средства защиты, которые должны предотвращать кибератаки и биотерроризм. Но сейчас все эти средства защиты можно обойти или удалить», — предупредил Гейтс. По его мнению, сочетание злоумышленников, моделей без ограничений и новейших возможностей ИИ может привести к серьезным неожиданностям уже в следующем году.

Гейтс отверг обвинения в том, что предупреждения об опасностях ИИ отражают чрезмерный пессимизм. Ведущая CNN привела слова генерального директора OpenAI Сэма Альтмана, который называл некоторые апокалиптические сценарии настолько антиутопичными, что они напоминают сюжеты плохих научно-фантастических фильмов. Альтман также предостерегал от чрезмерных страхов перед будущим технологии.

В ответ Гейтс отметил, что ответственные руководители отрасли, включая Альтмана и главу Anthropic Дарио Амодеи, также говорят о серьезных рисках. Он признал, что заявления о скором уничтожении человечества могут быть преувеличенными, но подчеркнул: это не повод недооценивать существующие угрозы.

«По сравнению с автомобилями, самолетами или лекарствами, для которых существуют значительные возможности регулирования, ИИ контролируется гораздо слабее», — сказал Гейтс.

Он отметил, что в авиации и медицине действуют специализированные государственные органы, устанавливающие правила безопасности и контролирующие их соблюдение. В сфере ИИ пока в значительной степени сохраняется саморегулирование технологических компаний. По мнению Гейтса, уже в следующем году правительства должны перейти к более строгому надзору.

Еще одной серьезной проблемой он назвал влияние ИИ на рынок труда. Гейтс ожидает, что автоматизация затронет рабочие места в различных отраслях, и считает, что обществу придется определить, какие виды деятельности должны оставаться преимущественно человеческими. В качестве примеров он привел уход за людьми и образование, где личное общение может сохранять особую ценность.

Гейтс также поднял вопрос о налогообложении ИИ-систем и роботов, заменяющих человеческий труд. По его словам, грядущие изменения потребуют политических решений, а не только технологических разработок.

«Переход в эпоху искусственного интеллекта станет одним из самых бурных периодов в истории человечества. Сейчас мы недостаточно хорошо готовимся к этим изменениям. Если мир предпримет правильные шаги, ИИ станет силой добра и улучшит жизнь всех людей», — написал Гейтс в своей последней публикации в блоге.

По мнению Гейтса, управление рисками ИИ потребует масштабной реорганизации государственных институтов. Она может напоминать преобразования в США после терактов 11 сентября 2001 года, но должна быть еще более масштабной.

Как отметил Гейтс, ИИ затронет национальную безопасность, занятость, образование, энергетику, выборы, общественное здравоохранение, финансы и транспорт. Эти сферы взаимосвязаны, поэтому отдельные ведомства не смогут эффективно справляться с проблемами, рассматривая их только в пределах собственных полномочий.

Государствам придется создать механизмы координации между различными ведомствами и определить общие приоритеты. В противном случае атака с использованием ИИ может оказаться успешной лишь потому, что ни одно учреждение не сочло ее предотвращение своей ответственностью. При этом даже подготовленная страна может столкнуться с риском, пришедшим из менее подготовленного государства. Поэтому Гейтс считает необходимыми глобальные меры.

Он также выступил за создание новой международной организации, которая занималась бы контролем над ИИ. У нее не будет прямого аналога среди существующих институтов, однако она сможет использовать элементы систем инспекций ядерных вооружений, международного авиационного регулирования и соглашений по защите озонового слоя. По мнению Гейтса, глобальный контроль над ИИ потребует сочетания этих подходов и дополнительных механизмов сотрудничества между странами.