В своем новом эссе, опубликованном 10 июня, Дарио Амодеи утверждает, что правительства больше не могут рассматривать регулирование ИИ как проблему для изучения. Он подчеркивает, что США нуждаются в обязательных требованиях безопасности для самых мощных моделей ИИ. В эссе под названием "Политика по экспоненциальному ИИ" Амодеи отмечает, что требования к прозрачности больше не являются достаточными и призывает к строгому регулированию передовых ИИ-систем.
"ИИ развивается с молниеносной скоростью — всего за четыре года модели ИИ прошли путь от неспособности написать связный код до написания большинства кодов в крупных ИИ-компаниях", — пишет Амодеи.
Это заявление совпадает с расширением доступа к Claude Mythos, новейшей модели ИИ компании, предназначенной для организаций в области кибербезопасности и государственных партнеров. Исследования, проведенные AI Security Institute в Великобритании, показали, что эта модель может автономно выполнять сложные кибератаки.
Амадеи предлагает заимствовать структуру регулирования, используемую Федеральной авиационной администрацией, утверждая, что модели ИИ должны проходить технические испытания и аудит, а их выпуск должен быть заблокирован или отменен, если они не соответствуют высоким стандартам безопасности. Он также подчеркивает необходимость подготовки к возможной потере рабочих мест из-за ИИ и призывает к ограничению использования автономного оружия в правоохранительных органах.
"Долговременная потеря рабочих мест нежелательна и опасна, и мы должны сделать все возможное, чтобы минимизировать или предотвратить ее", — добавляет он.
Эссе также выходит на фоне подготовки Anthropic к публичному размещению акций. Ранее в этом месяце компания подала документы в Комиссию по ценным бумагам и биржам США для первичного публичного размещения после успешного завершения раунда финансирования на сумму 65 миллиардов долларов.
Амадеи подчеркивает, что его призыв к изменениям в политике ИИ не является просто вопросом общественных отношений, а отражает реальные опасения, которые необходимо учитывать. "Люди беспокоятся о ИИ, потому что правильно воспринимают его риски как реальные", — заключает он.