Южноафриканское правительство приняло решение отозвать свой первый проект национальной политики в области искусственного интеллекта (ИИ) менее чем через три недели после его публикации. Это произошло после того, как расследование выявило, что в документе содержатся фальшивые академические ссылки, созданные с помощью ИИ.
Министерство связи и цифровых технологий выпустило проект политики 10 апреля, позиционируя страну как нового лидера в области ИИ. Однако всего через 16 дней документ был отозван из-за выявленных неточностей в его цитатах.
Министр связи страны подтвердил, что как минимум шесть из 67 ссылок в политике были "галлюцинированы" ИИ, указывая на несуществующие академические журналы или статьи, которые никогда не были опубликованы в легитимных изданиях. Это вызвало серьезные опасения по поводу надзора, доверия и управления.
"Наиболее вероятное объяснение заключается в том, что ссылки, сгенерированные ИИ, были включены без должной проверки. Это не должно было произойти", - отметил министр, добавив, что такая ошибка "скомпрометировала целостность и достоверность" политики.
Проблема была выявлена после расследования южноафриканского вещателя, который указал на несоответствия в ссылках. Редакторы известных журналов подтвердили, что указанные статьи не существуют.
Отозванный проект стремился установить комплексную структуру управления ИИ, включая предложения о создании национальной комиссии по ИИ, этического совета и регулирующего органа. Он также предусматривал налоговые льготы, гранты и субсидии для стимулирования частных инвестиций в инфраструктуру ИИ, а также решение этических, социальных и экономических проблем, связанных с этой технологией.
Однако обнаружение фальшивых ссылок, вероятно, сгенерированных с помощью таких инструментов, как ChatGPT или Google Gemini, нарушило эти планы. Министр признал, что проблема выходит за рамки технической ошибки и отражает недостаток человеческого контроля. "Этот неприемлемый промах доказывает, почему бдительный человеческий надзор за использованием искусственного интеллекта критически важен", - добавил он, отметив, что последуют меры ответственности.
Ожидается, что правительство пересмотрит проект политики перед его повторным представлением на общественное обсуждение.