С недавним ростом популярности генеративных AI-платформ, таких как Udio и Suno AI, правые экстремисты получили новые возможности для создания и распространения ненавистной музыки. Эти инструменты позволяют им легко генерировать музыкальный контент, который усиливает их идеологии и способствует радикализации. В частности, на платформе 4chan, в разделе /pol/, пользователи активно создают и делятся музыкальной пропагандой, используя AI для генерации текстов и мелодий.
С момента появления Suno AI в конце 2023 года, на 4chan было опубликовано множество постов, посвященных созданию музыки, направленной на распространение ненависти. Пользователи обмениваются советами и инструкциями, что позволяет даже новичкам быстро создавать качественный контент. Темы песен варьируются от расистских до антисемитских, и они создаются на нескольких языках, что подчеркивает глобальный характер этой проблемы.
Пользователи не только генерируют музыку, но и используют текстовые AI-платформы, такие как ChatGPT, для создания текстов. Это значительно упрощает процесс, позволяя им сосредоточиться на распространении своих идей. В результате, ненавистные песни становятся более доступными и привлекательными для молодежи, что увеличивает риск радикализации.
Несмотря на то, что многие платформы запрещают создание ненавистного контента, пользователи находят способы обойти эти ограничения, используя тактики, такие как "jailbreaking". Это позволяет им генерировать песни, которые могут избежать автоматического обнаружения.
Опасность такого контента заключается в том, что он не только укрепляет связи среди радикализированных групп, но и может привести к реальному насилию. Некоторые песни прямо призывают к насилию, что вызывает серьезные опасения по поводу возможных последствий.
В заключение, важно, чтобы технологические компании усилили свои меры по обнаружению и предотвращению распространения ненавистного контента. Это включает в себя улучшение автоматических систем обнаружения, сотрудничество между платформами и внедрение мер по проверке личностей пользователей. Только так можно эффективно противостоять этой растущей угрозе.