Искусственный интеллект использует человеческий труд и созданный людьми контент, одновременно ослабляя бизнес-модели, которые обеспечивают их производство. Недавно рассекреченные документы и показания по делу The New York Times против Microsoft и OpenAI показывают, что руководители компаний осознавали этот риск уже на раннем этапе распространения генеративного ИИ.

Во внутренних документах Microsoft, которые цитировали адвокаты The New York Times, это явление описывается как «порочный круг» или «doom loop». ИИ-продукты используют человеческий труд, но одновременно снижают экономические стимулы для создания нового контента.

«Наша стратегия в сфере ИИ-контента запустила “порочный круг”, который одновременно нанесет ущерб эффективности наших моделей и всему интернету», — говорится во внутреннем документе Microsoft.

В документе также описывается необычная ситуация, при которой конечный продукт угрожает экономической основе своих ключевых поставщиков. В данном случае речь идет о контенте, от которого зависят большие языковые модели.

Особенно заметно эта проблема проявляется в медиа. Раньше журналисты рассчитывали на интернет-платформы, которые направляли читателей на сайты изданий. Теперь сервисы вроде ChatGPT и Google Gemini могут напрямую пересказывать публикации, не отправляя пользователя к оригинальному источнику.

Это создает серьезное давление на независимые СМИ. Все больше издателей и местных новостных организаций сталкиваются с трудностями при поддержании традиционной бизнес-модели.

Похожая ситуация складывается в музыкальной и киноиндустрии. Контент, созданный ИИ, занимает все больше места на стриминговых платформах. При этом люди, работающие в творческих профессиях, опасаются, что их труд, голос или внешность могут быть скопированы либо заменены алгоритмами.

Проблема затрагивает и открытый интернет. Согласно анализам, которые приводит Futurism, низкокачественный контент, сгенерированный ИИ, уже занимает огромную долю онлайн-публикаций. Это меняет способы поиска и потребления информации.

Рассекреченные материалы по делу The New York Times также поднимают вопрос о происхождении данных, использованных для обучения ИИ-моделей.

«Миллионы людей во всем мире вскоре будут считать ошеломляющее поглощение крупными моделями всей их работы кражей беспрецедентного масштаба», — говорится во внутреннем документе Microsoft.

Согласно последним данным Бюро трудовой статистики США, за последние четыре года в творческих индустриях было потеряно более 200 000 рабочих мест. Этот период примерно совпадает с появлением ChatGPT.

Музыкальная индустрия также ощущает давление. Песни, созданные ИИ, быстро увеличивают свое присутствие на стриминговых платформах. Некоторые сервисы вводят ограничения, тогда как другие по-прежнему разрешают публиковать большие объемы автоматически созданного контента.

В Голливуде студии также инвестируют в ИИ. Актеры, однако, опасаются, что их лица и голоса могут использоваться для создания контента без их необходимого участия или компенсации.

«Порочный круг» наблюдается и на рынке труда. Все больше соискателей используют ИИ для улучшения резюме и обхода автоматизированных систем отбора. В результате компании получают огромное количество почти одинаковых заявок.

«Мы имеем трагическую ситуацию, в которой у каждой стороны есть проблема», — заявил Wired Даниэль Чайт, генеральный директор компании Greenhouse, разрабатывающей системы отслеживания кандидатов.

«Они используют ИИ, чтобы решить собственную проблему, но делают это так, что проблема становится еще больше», — добавил он. «Таким образом, более широкое использование ИИ приводит к еще большему его использованию, но никто от этого не выигрывает. Чем чаще это происходит, тем хуже становится».

Меняется и образование. Ученики используют ИИ для выполнения домашних заданий и других задач, а учителя начинают применять технологию для подготовки заданий. Это вызывает опасения, что роль человека в учебном процессе постепенно сокращается.

Исследование Центра универсального образования при Brookings Institution пришло к выводу, что риски использования генеративного ИИ в образовании значительно превышают его преимущества. Среди опасений — ухудшение способности студентов самостоятельно читать и анализировать тексты.

Компании из индустрии ИИ, в том числе OpenAI и Microsoft, отвергают часть критики. Их адвокаты по делу The New York Times утверждают, что результаты работы ИИ-моделей достаточно отличаются от исходного контента, использованного при обучении. По этой позиции, использование материалов может подпадать под действие американской доктрины «fair use» — добросовестного использования.

Примет ли суд этот аргумент, пока неизвестно. Тем временем Anthropic уже согласилась на многомиллиардное соглашение об урегулировании спора, связанного с предполагаемыми нарушениями авторских прав.

Однако основная проблема носит более широкий характер. Индустрия ИИ нуждается в огромных объемах новых материалов, данных и человеческого труда. Если технологии одновременно подрывают экономические стимулы для их создания, они могут ослабить саму систему, от которой зависит их дальнейшее развитие.