В Малайзии могут произойти важные изменения в регулировании контента, созданного с помощью искусственного интеллекта. Правительство предложило ввести обязательное маркирование такого контента в рамках предстоящего Закона о безопасности в интернете. Этот шаг можно считать позитивным, однако эксперты подчеркивают, что для его успешной реализации необходимы дополнительные технические и правовые меры.
Специалисты, в том числе доцент Университета Технологии Малайзии, отмечают, что внедрение маркировки будет сложной задачей. Текущие инструменты для обнаружения ИИ-контента еще не совершенны и могут не справляться с новыми или хитро измененными материалами. Например, исследования показывают, что детекторы дипфейков часто ошибаются, особенно с низкокачественными видео или контентом, в котором используются не западные лица.
Кроме того, маркировка контента поднимает важные вопросы о том, кто несет ответственность за его содержание — создатель, платформа или сторонние агрегаторы. Введение цифровых подписей или водяных знаков может помочь, но создание и регулирование такой системы будет непростой задачей.
Эксперты также предупреждают, что маркировка не остановит более опасные применения ИИ, такие как мошенничество и клонирование голосов. Малайзии необходимо усилить технические меры безопасности, такие как цифровое водяное знаковое обозначение на этапе создания контента, надежные системы обнаружения и быстрые механизмы удаления.
Другие специалисты, такие как доцент Международного исламского университета Малайзии, считают, что предложение о маркировке является значительным шагом в правовом регулировании. Это соответствует действиям, предпринятым в других странах, таких как Испания и Китай, где несоблюдение маркировки ИИ-контента считается серьезным правонарушением.
Министр связи Малайзии также отметил, что обязательное маркирование может помочь в борьбе с дезинформацией и фейковыми новостями, которые распространяются через социальные сети. Ожидается, что новый Закон о безопасности в интернете вступит в силу к концу года, и его реализация станет важным шагом к повышению прозрачности в цифровом пространстве.