Современные технологии искусственного интеллекта продолжают удивлять и настораживать. Недавнее исследование, проведенное командой ученых из ETH Zurich и компании Anthropic, выявило, что большие языковые модели способны эффективно раскрывать анонимные аккаунты в интернете. Это открытие ставит под сомнение привычные представления о безопасности и приватности в сети.
В ходе экспериментов исследователи продемонстрировали, что их AI-агент может "переидентифицировать" пользователей на популярных форумах, таких как Hacker News и Reddit, основываясь только на их псевдонимах и переписке. Удивительно, но AI смог раскрыть личности двух третей пользователей, что, по словам ученых, ставит под угрозу существующие модели угроз для онлайн-приватности.
Исследователи собрали данные с открытых социальных медиа, чтобы протестировать свою технологию. Они связали посты на Hacker News с профилями в LinkedIn, используя упоминания в профилях пользователей. После анонимизации данных AI был обучен на этих наборах, и результаты оказались впечатляющими: даже при использовании общих данных, таких как ответы на опросы, AI мог идентифицировать людей с вероятностью около семи процентов.
Хотя это может показаться незначительным, важно отметить, что такая возможность существует. Особенно высока точность распознавания, когда пользователи обсуждают определенные темы, например, фильмы. Однако исследователи также указали на ограничения: выборка данных была небольшой, и сложно отделить вклад AI от результатов поиска в интернете.
Тем не менее, выводы исследования вызывают серьезные опасения. Ученые предупреждают, что новые технологии могут быть использованы для слежки за диссидентами, журналистами и активистами, а также для создания детализированных профилей пользователей для целевой рекламы и мошенничества.
В условиях, когда AI становится все более доступным, пользователи, платформы и законодатели должны пересмотреть свои представления о приватности в интернете. Привычные модели безопасности больше не работают, и это требует новых подходов к защите личной информации в цифровом мире.