Современные дискуссии о будущем искусственного интеллекта (AI) все чаще касаются его потенциальных угроз для человечества. В недавнем обращении Папы Льва XIV поднималась тема необходимости "разоружения" AI, чтобы предотвратить его доминирование над людьми. Он призвал разработчиков к ответственности за создание технологий, которые должны служить на благо.
На фоне этих предупреждений компания Anthropic опубликовала эссе, в котором предложила приостановить развитие AI, так как новые модели начинают демонстрировать признаки, что могут выйти из-под контроля. В этом контексте CEO Anthropic Дарио Амодеи оценил вероятность катастрофических последствий от AI в 25%. Это означает, что, по его мнению, существует реальная угроза, что развитие AI может привести к серьезным негативным последствиям, включая угрозу для цивилизации.
Другие эксперты, такие как Илон Маск и нобелевский лауреат Джеффри Хинтон, также высказывают свои опасения. Маск оценивает вероятность угрозы для человечества в 20%, в то время как Хинтон намекает на возможность более серьезных рисков, вплоть до 50%. Эти оценки подчеркивают необходимость серьезного подхода к вопросам безопасности AI.
Существуют две основные группы мнений среди экспертов: "долгожители" (Doomers), которые выступают за замедление развития AI в интересах безопасности, и "оптимисты" (Boomers), которые верят в его потенциал для решения глобальных проблем. Например, Сэм Альтман, CEO OpenAI, утверждает, что AI может привести к значительным достижениям, таким как решение проблем климата и создание колоний в космосе.
Тем не менее, обе группы согласны в одном: искусственный интеллект, который может превзойти человеческие способности, известный как Искусственный Общий Интеллект (AGI), находится на горизонте. Альтман подчеркивает, что создание AGI, который будет служить человечеству, является одной из важнейших задач современности.
В то время как AI продолжает развиваться, эксперты призывают к международному сотрудничеству для обеспечения его безопасного использования. Важно, чтобы технологии, которые могут как улучшить, так и разрушить мир, находились под контролем ответственных и этичных разработчиков. Вопрос о том, как управлять этой мощной технологией, остается открытым и требует активного обсуждения и действий со стороны общества и правительств.