Зависимость от систем искусственного интеллекта способна привести к постепенной утрате людьми навыков, самостоятельного мышления и контроля над решениями. Эксперты называют этот процесс «постепенным обезсилением» и предупреждают, что для его развития ИИ не обязательно должен намеренно стремиться к власти.

Искусственный интеллект постепенно берет на себя все больше повседневных задач. Школьники используют ChatGPT для выполнения домашних заданий, программисты обращаются к Claude при написании кода, а персональные ИИ-ассистенты помогают планировать жизнь. Эксперты предупреждают, что такая зависимость может ослабить человеческие навыки и способность самостоятельно мыслить.

В интервью CBS News специалисты описали этот риск термином «постепенное обезсиление» (gradual disempowerment). Речь идет о процессе, при котором люди и общество шаг за шагом передают системам искусственного интеллекта контроль над решениями. Опасность связана не только с возможным исчезновением рабочих мест, но и с ослаблением мышления, навыков и способности действовать независимо.

«Я ставлю постепенное обезсиление на первое место в своем списке», — заявил Джей Чуи, основатель и генеральный директор Robocurve — компании, изучающей роль роботов на рабочем месте. По его словам, многие люди чувствуют себя бессильными перед этой проблемой, поскольку ее решение требует значительных усилий и согласованных действий всего общества.

Ян Кулвайт, исследователь Центра теоретических исследований Карлова университета и соавтор научной работы, в которой был введен этот термин, подчеркивает: для развития процесса искусственный интеллект не должен сознательно пытаться захватить власть.

В своей публикации он объясняет, что в краткосрочной перспективе постепенную утрату самостоятельности стимулируют ожидаемые преимущества, которые ИИ способен принести экономике, культуре и государственному управлению.

Первые признаки такой зависимости уже заметны. Некоторые люди поручают ИИ не отдельные задачи, а планирование почти всей повседневной жизни. В крайних случаях это может привести к опасным решениям. Издание Futurism, например, рассказывало о туристах, оказавшихся в бедственном положении в опасной горной местности после того, как они последовали инструкциям искусственного интеллекта.

Для возникновения серьезной проблемы роботам не обязательно полностью заменять человеческий труд. Эксперты уже обращают внимание на так называемую «когнитивную передачу» — ситуацию, при которой люди позволяют ИИ выполнять за них мыслительную работу. Особенно уязвимыми считаются школьники и студенты.

Исследования связывают чрезмерную зависимость от подобных инструментов с ослаблением критического мышления. Другие работы показывают, что при выполнении когнитивных задач, например написании эссе, у людей, использующих ИИ, может наблюдаться более низкая мозговая активность.

Если такая модель распространится в обществе, возвращаться к самостоятельному выполнению задач будет все сложнее.

«Если люди не практикуют навыки, которые агенты выполняют вместо них, они утрачивают способность ими пользоваться и становятся зависимыми», — сказала Маргарет Митчелл, исследователь искусственного интеллекта в Hugging Face.

Она также задается вопросом, что произойдет в случае сбоя или ошибки системы. «Больше не будет человека, к которому можно обратиться, чтобы ее исправить. Так вы становитесь полностью зависимыми от этих систем, рассчитывая, что они сами устранят проблему. А что произойдет, если это окажется невозможным?» — спрашивает Митчелл.

Риски не ограничиваются бытовыми задачами. ИИ уже участвует в принятии решений, которые могут иметь тяжелые последствия. Согласно публикациям, система выбора целей на основе искусственного интеллекта использовалась при принятии решения о бомбардировке девичьей школы в Иране. В результате погибли более 150 человек, большинство из них — дети.

Кроме того, появились сообщения о том, что разговор с Grok, разработанным компанией Илона Маска, побудил президента США Дональда Трампа провести операцию против Венесуэлы и захватить ее президента Николаса Мадуро.

«Многие говорят о неконтролируемом ИИ, который проникает в центры обработки данных и захватывает мир. Но массовое сознание пока не воспринимает идею о том, что искусственный интеллект может буквально получить контроль над миром, просто продолжая делать то, для чего его создали, — автоматизировать все», — предупредил Чуи.

По мнению экспертов, именно это и является одной из наиболее трудно заметных опасностей искусственного интеллекта. Системам не обязательно восставать против людей: достаточно, чтобы общество постепенно передало им такое количество задач и решений, что утратило бы способность функционировать самостоятельно.