Научное сообщество встряхнуло новое исследование, опубликованное 13 мая 2024 года, в котором утверждается, что модели искусственного интеллекта, независимо от их архитектуры и обучающих данных, начинают мыслить схожим образом. Это открытие ставит под сомнение основополагающие принципы безопасности ИИ, предполагающие, что модели не могут интерпретировать внутренние процессы друг друга. Оказалось, что они могут.
Исследование показало, что даже при обучении на совершенно разных данных, ИИ-системы формируют аналогичные "мыслительные карты", что позволяет им переводить информацию между различными модальностями. Это означает, что одна модель может расшифровывать внутренние представления другой, даже если они не были созданы для общения. Такой "машинный телепат" создает опасную синхронизацию ИИ, что может привести к катастрофическим последствиям для конфиденциальности.
Ранее считавшиеся безопасными, векторные представления (эмбеддинги) теперь под угрозой. Эти числовые представления слов и идей, которые помогают ИИ понимать и сопоставлять значения, могут быть расшифрованы с помощью небольших моделей на обычном оборудовании. Это означает, что анонимные данные, такие как медицинские записи или финансовая информация, могут быть восстановлены и раскрыты, даже если системы не связаны между собой.
Несмотря на растущее количество доказательств, регуляторы остаются в стороне, предлагая лишь символические меры. Тем временем крупные технологические компании продолжают внедрять уязвимые ИИ-системы в критическую инфраструктуру, такую как банковские системы и здравоохранение, без реальных мер безопасности. Это создает ситуацию, когда частные данные становятся легкой добычей.
Ситуация требует немедленных действий: необходимо ввести обязательные проверки на уровне эмбеддингов, компании должны открыто сообщать о рисках и возможностях своих моделей, а эмбеддинги должны быть юридически классифицированы как конфиденциальные данные. Без этих мер ваша цифровая идентичность и личная информация могут оказаться под угрозой.
Если вы обеспокоены искусственным интеллектом, не оставайтесь в стороне. Важно быть в курсе новых угроз и знать, как защитить свои данные в этом быстро меняющемся мире технологий.