Современные технологии, такие как генеративный ИИ, открывают новые горизонты, но также создают серьезные проблемы. На этот раз жертвой фальсификации стал известный астроном, который столкнулся с подделкой своего образа на YouTube. Канал под названием "Dr. Avi Loeb" использует ИИ для клонирования его внешности и голоса, создавая видео, которые вводят зрителей в заблуждение.
Астроном подтвердил, что эти видео являются подделкой и уже сообщил о них в YouTube. В отличие от его научных размышлений о межзвёздном объекте 3I/ATLAS, видео на этом канале содержат сенсационные заголовки, такие как "3I/ATLAS — это ПРОБА — новые данные не оставляют сомнений". Это подчеркивает, насколько легко можно манипулировать общественным мнением с помощью ИИ.
Лоеб также поднял важный вопрос о том, как отличить правду от лжи в эпоху, когда фальшивый контент может быть создан за считанные минуты. Он отметил, что за последние две недели получил множество писем от поклонников, которые заметили этот канал и его фальшивые видео. В одном из своих блогов он выразил обеспокоенность по поводу того, как такие подделки могут повлиять на общественное восприятие науки.
Канал, который начал выдавать себя за Лоеба 24 ноября, уже собрал более 1,4 миллиона просмотров. Если он будет монетизирован, создатели могли бы заработать от 14 до 42 тысяч долларов. Это подчеркивает, что фальшивый контент может быть не только вредным, но и прибыльным.
Лоеб также указал на юридическую ответственность создателей фальшивых видео за клевету и распространение ложной информации. Он и его поклонники подали множество жалоб в YouTube, однако платформа пока не приняла мер по удалению контента, который нарушает её правила.
Эта ситуация поднимает важные вопросы о том, как мы можем удостовериться в достоверности информации в интернете. Лоеб подытожил: "Мы живем в новой реальности, где фальшивый контент может быть легко сгенерирован ИИ. Это создает серьезные проблемы для аутентификации информации." Важно помнить, что наука основывается на фактах, и борьба с фальшивым контентом становится все более актуальной.