В мире искусственного интеллекта продолжаются острые дебаты между оптимистами и пессимистами. Генеральный директор Anthropic Дарио Амодеи, известный своими мрачными прогнозами о рисках ИИ, в недавнем интервью на подкасте Big Technology раскрыл свои взгляды на будущее технологий. Он резко ответил на обвинения со стороны Дженсена Хуана из Nvidia, который утверждал, что Амодеи стремится контролировать индустрию ИИ.
Амадеи выразил гнев по поводу ярлыка "пессимист", заявив, что это "абсурдная ложь". Его реакция была вызвана личной трагедией — смертью отца, которая, по его словам, привела к осознанию важности решения актуальных проблем с помощью технологий. Он считает, что ИИ может помочь справиться с задачами, которые выходят за пределы человеческих возможностей.
Несмотря на свои предостережения, Амодеи утверждает, что он на самом деле оптимистично настроен по поводу потенциала ИИ. Он считает, что Anthropic лучше других компаний формулирует преимущества ИИ и подчеркивает необходимость ответственного подхода к его развитию. Амодеи выступает за внедрение строгих регуляций и "ответственных масштабируемых политик", чтобы избежать "гонки на дно", когда компании стремятся выпустить продукты как можно быстрее, игнорируя риски.
Он также раскритиковал идею открытого исходного кода в контексте ИИ, назвав это "красной herrингом", поскольку современные языковые модели остаются непрозрачными. В ответ на критику со стороны Nvidia, которая поддерживает открытость и безопасность, Амодеи подчеркнул, что его компания стремится к созданию безопасных систем и делится своими исследованиями в области безопасности как общественным благом.
Амадеи также отметил, что его решение покинуть OpenAI и основать Anthropic было вызвано недоверием к намерениям конкурентов. Он подчеркивает, что для успешной работы в области безопасности необходимы искренние и надежные лидеры.
В заключение, Амодеи призвал к более вдумчивым и честным дискуссиям о будущем ИИ, отвергнув крайние позиции как "интеллектуально и морально несерьезные".