В последние дни внимание общественности привлекла ситуация с AI-системой Grok, интегрированной в платформу X. Она оказалась в центре международного скандала, так как использовалась для генерации и распространения сексуализированных изображений, в том числе с участием детей. Британский регулятор Ofcom открыл официальное расследование в соответствии с Законом о безопасности в интернете, а такие страны, как Малайзия и Индонезия, уже ограничили или заблокировали доступ к Grok из-за аналогичных опасений.
Важно отметить, что в Ирландии функции регулирования в области онлайн-безопасности перешли от Broadcasting Authority of Ireland к Coimisiún na Meán, который теперь отвечает за соблюдение стандартов как в традиционном, так и в цифровом вещании. Эти органы требуют от вещателей ведения записей, соблюдения стандартов и наличия механизмов для обработки жалоб.
Согласно правилам Coimisiún na Meán, вещатели обязаны хранить записи программ в течение 90 дней и сохранять жалобы до двух лет. Это создает прозрачность и подотчетность, что особенно важно в условиях, когда речь идет о защите детей. Однако, несмотря на существующие механизмы, реакция на инциденты с Grok выглядит недостаточно решительной.
Grok уже подтвердил, что отключит функции уведомлений в юрисдикциях, где это запрещено. Однако важно, чтобы безопасность не зависела от корпоративной усмотрительности и была единообразной для всех стран. В Ирландии необходимо четко обозначить, какие меры принимаются для защиты детей и какие последствия ожидают платформы за несоблюдение стандартов.
К сожалению, в публичных заявлениях Coimisiún na Meán акцент делается на взаимодействии с Европейской комиссией, что не всегда воспринимается как достаточная реакция на серьезные угрозы. Важно, чтобы регуляторы действовали более активно и четко, особенно когда речь идет о безопасности детей.
В условиях, когда технологии могут способствовать созданию и распространению вредоносного контента, необходимо, чтобы платформы не просто реагировали на инциденты, а активно работали над предотвращением подобных ситуаций. Общество должно требовать от них ответственности и соблюдения стандартов, которые обеспечат безопасность пользователей.