Instagram оказался в центре скандала, когда благотворительная организация обвинила платформу в том, что она закрывает глаза на рекламу детской порнографии, созданной с помощью искусственного интеллекта. В результате этого Ofcom, регулятор в Великобритании, может начать расследование.
Благотворительная организация 5Rights Foundation подала жалобу, утверждая, что Meta, владеющая Instagram, Facebook и WhatsApp, не только не удаляет незаконный контент, но и способствует его распространению. В ходе undercover-расследования выяснилось, что преступники используют Instagram для продвижения сайтов, где продаются материалы, созданные с помощью ИИ, всего в двух кликах от приложения.
Некоторые из этих преступников набирают до 150 000 подписчиков, используя ИИ для генерации тысяч сексуализированных изображений детей, которые они открыто рекламируют на платформе. При этом алгоритмы Instagram направляют пользователей к аналогичным аккаунтам, как только один из них закрывается.
Благотворительная организация утверждает, что Meta игнорирует запросы полиции и юридические требования, а также не реагирует на внутренние жалобы о вредоносном контенте. С введением Закона о безопасности в интернете, который вступит в силу в следующем году, Ofcom получит право накладывать штрафы на технологические компании, если они не будут бороться с преступной деятельностью.
Представитель Meta заявил, что все нарушающие аккаунты были удалены по запросу благотворительной организации и что компания активно работает над выявлением и удалением контента, связанного с детской эксплуатацией. Однако критики утверждают, что этого недостаточно, и призывают к более строгим мерам для защиты детей в цифровом пространстве.