В последние годы наблюдается рост влияния AI-ботов на общественное мнение в социальных сетях. Исследования показывают, что эти автоматизированные системы способны создавать иллюзию массового согласия, что может подрывать основы демократических процессов. В 2023 году, когда Twitter был переименован в X, группа исследователей обнаружила сеть из более чем тысячи ботов, участвующих в крипто-мошенничествах. Эти боты, названные "fox8", использовали контент, сгенерированный искусственным интеллектом, и взаимодействовали с реальными пользователями, создавая видимость активного обсуждения.
Боты "fox8" применяли тактику подделки взаимодействия, что позволяло им обманывать алгоритмы рекомендаций платформы и накапливать влияние. Это стало возможным благодаря тому, что современные AI-модели значительно более сложны и адаптивны, чем их предшественники. Они могут генерировать разнообразный и правдоподобный контент, что делает их трудными для обнаружения.
Сейчас, когда доступ к мощным AI-моделям стал более широким, а социальные платформы ослабили модерацию, существует реальная угроза для демократических выборов. Например, AI-управляемая сеть ботов может создать ложное впечатление о широкой поддержке или оппозиции к политическому кандидату. Это подчеркивает необходимость более строгого контроля и регулирования в области использования AI в социальных сетях.
Исследования показывают, что такие тактики, как внедрение в онлайн-сообщества, могут эффективно создавать иллюзию общественного согласия. Это явление, известное как социальное доказательство, делает людей более восприимчивыми к манипуляциям. Если граждане не смогут отличить настоящие мнения от сгенерированных, это может серьезно подорвать демократические процессы.
Для снижения рисков необходимо предоставить исследователям доступ к данным платформ, чтобы лучше понять поведение таких сетей. Также важно разработать методы для обнаружения координированных действий и внедрить стандарты для маркировки AI-содержимого. Ограничение монетизации неаутентичного взаимодействия также может снизить финансовые стимулы для манипуляций.
Учитывая текущую политическую ситуацию, необходимо повышать осведомленность о рисках, связанных с AI-ботами, и разрабатывать стратегии для их предотвращения. Технологии уже используются для манипуляций, и важно, чтобы политики и разработчики работали над тем, чтобы сделать такие действия менее выгодными и более заметными.