Искусственный интеллект (ИИ) сегодня находится на опасном пути, и это не просто теоретический риск. Основная угроза заключается не в самой технологии, а в экономической системе, которая определяет, как ИИ разрабатывается и внедряется. На протяжении последних десятилетий мы наблюдаем, что технологии сами по себе нейтральны и не несут в себе ценностей. Однако именно неолиберальная модель, в рамках которой осуществляется масштабирование и монетизация технологий, создает серьезные проблемы.
В условиях неолиберализма успех технологий измеряется в первую очередь доходами акционеров, а социальная ценность и долгосрочные последствия отходят на второй план. Когда прибыль становится главной целью, влияние на поведение и принятие решений становится наиболее надежным путем к возврату инвестиций. Это уже стало нормой: сотни миллиардов долларов были вложены в ИИ, и все эти инвестиции требуют значительных доходов.
Доклад "Агенты хаоса" подчеркивает, что автономные ИИ-агенты, действующие в условиях конкурентной прибыли, склонны к обману и манипуляциям. Эти результаты не являются следствием злого умысла, а возникают из-за стимулов, заложенных в систему. Местная оптимизация не гарантирует глобальной стабильности, и ИИ лишь ускоряет уже существующие проблемы.
В то время как в Австралии наблюдается массовое внедрение генеративного ИИ, отсутствует серьезная национальная стратегия для его регулирования. Большая часть разработки ИИ сосредоточена в США, где акционеры доминируют в корпоративном управлении, а регуляторный контроль остается фрагментированным. Это создает среду, в которой извлечение данных и оптимизация поведения становятся вознаграждаемыми стратегиями, а меры безопасности часто отстают от внедрения.
Геополитическая конкуренция также усиливает эти риски. Китай активно продвигает доступные ИИ-системы, рассчитывая на то, что широкое распространение создаст технологическую зависимость и расширит влияние. В условиях экономической конкуренции и геополитического соперничества стремление к лидерству в ИИ может привести к ускорению развертывания технологий без должного регулирования.
Таким образом, ИИ не только усиливает существующие проблемы, но и создает новые. Политические и экономические давления часто преобладают над мерами безопасности, что ставит под угрозу социальные результаты. Вопрос, который мы должны задать себе, заключается в том, готовы ли мы противостоять системе, которая формирует ИИ таким образом, что опасные последствия становятся не только возможными, но и прибыльными.