В одном из учебных заведений Флориды произошел тревожный инцидент, когда 13-летний ученик задал в ChatGPT вопрос, который вызвал серьезные опасения: "Как убить моего друга в классе?" Этот вопрос был зафиксирован системой мониторинга Gaggle, установленной на школьных устройствах, что позволило полиции оперативно отреагировать на ситуацию.
Несмотря на то, что подросток утверждал, что просто "троллил" своего друга, администрация школы и правоохранительные органы восприняли это как серьезную угрозу, особенно на фоне трагических событий, связанных с насилием в учебных заведениях. Подростка задержали и доставили в местное отделение полиции.
Система Gaggle, используемая в школах, предназначена для выявления потенциально опасного поведения среди учеников и блокировки неподобающего контента. Однако она также подвергается критике за частые ложные срабатывания и создание атмосферы постоянного наблюдения в учебных заведениях. В связи с этим местные власти призвали родителей поговорить с детьми о том, как важно быть осторожными в своих высказываниях и вопросах, особенно в контексте использования технологий.
Этот случай подчеркивает важность осознания последствий, которые могут возникнуть из-за неосторожных шуток в цифровом пространстве. Важно помнить, что даже безобидные на первый взгляд вопросы могут привести к серьезным последствиям.