Южноафриканское правительство столкнулось с серьезным скандалом, когда министр связи Солли Малаци объявил об отзыве проекта национальной политики в области искусственного интеллекта (ИИ). Причиной стали фальшивые академические ссылки, обнаруженные в документе, который был одобрен Кабинетом министров и опубликован для общественного обсуждения. Из 67 ссылок как минимум шесть оказались вымышленными, ссылаясь на несуществующие статьи в реальных журналах.
Малаци назвал это "неприемлемым упущением" и пообещал принять меры в отношении ответственных за составление и проверку документа. Политика, которая должна была установить рамки для регулирования ИИ в стране, теперь под вопросом, и Южная Африка осталась без формальной структуры управления в этой области.
Разработка политики заняла несколько месяцев и включала создание Национальной комиссии по ИИ, Этического совета по ИИ и других регулирующих органов. Однако, как выяснили журналисты, ссылки на исследования, которые должны были подтвердить научную обоснованность предложений, оказались вымышленными. Это поднимает серьезные вопросы о способности правительства эффективно регулировать технологии, которые оно само же и разрабатывает.
Скандал стал ярким примером проблемы, с которой сталкиваются многие учреждения, использующие генеративный ИИ для создания научных и правительственных документов. Исследования показывают, что процент публикаций с потенциально вымышленными ссылками растет, что ставит под сомнение надежность таких источников.
Теперь Южная Африка должна пересмотреть свою политику, что может занять значительное время. В условиях, когда другие страны активно разрабатывают свои собственные рамки для регулирования ИИ, этот инцидент подрывает доверие к южноафриканским инициативам в этой области.
Важно понимать, что использование ИИ в разработке политик не является ошибкой, но необходимо иметь четкое представление о его возможностях и ограничениях. Этот случай служит напоминанием о том, что даже самые продвинутые технологии требуют тщательной проверки и человеческого контроля.