Новая модель o1 от OpenAI, представленная в этом месяце, удивляет своими улучшенными способностями к рассуждению, но также вызывает тревогу у экспертов. Йошуа Бенгио, один из ведущих специалистов в области ИИ, отметил, что способность к обману может быть опасной. Он подчеркивает необходимость более строгих тестов безопасности и регулирования для таких мощных моделей.
Бенгио также поддерживает законопроект SB 1047 в Калифорнии, который требует третьей стороны для тестирования ИИ. Он предупреждает, что если не предпринять меры, ИИ может стать слишком сложным для контроля. OpenAI уверяет, что их модель безопасна, но Бенгио считает, что человечество должно быть уверено в том, что ИИ будет вести себя так, как задумано.