Недавнее исследование, проведенное учеными из Гарвардской школы Кеннеди и Meta, выявило интересные факты о том, как работает AI-фишинг. В ходе эксперимента 4100 американцев оценивали звонки, сделанные как с использованием синтетических голосов, так и реальными людьми. Результаты оказались неожиданными: участники часто ошибались, принимая настоящих людей за роботов.
Хотя 70,3% опрошенных смогли распознать синтетический голос, они также дважды из трех случаев ошибочно идентифицировали настоящих звонящих как искусственный интеллект. Это поднимает важный вопрос: действительно ли мы можем полагаться на существующие методы обнаружения фишинга? Оказалось, что уровень подозрительности у людей возрос, но точность распознавания не улучшилась.
Исследование также показало, что ключевым фактором, влияющим на согласие людей выполнить запросы мошенников, является убедительность звонящего. Каждый шаг вверх по шкале убедительности увеличивал вероятность согласия на 2,58 раза. Интересно, что как только учитывались другие факторы, человеческое звучание голоса теряло свою значимость. Это означает, что даже синтетический голос может успешно манипулировать людьми, если сценарий достаточно убедителен.
В ходе эксперимента выяснили, что около 16,5% участников согласились бы выполнить запрос мошенника, а в случае сценария с "помощью родственнику" этот показатель достигал 36,1%. Однако важно отметить, что многие из тех, кто ответил "да", на самом деле просто колебались, что указывает на необходимость более тщательной проверки.
Кроме того, исследование подчеркивает, что традиционные методы обучения, направленные на распознавание "роботизированных" голосов, могут быть неэффективными. Вместо этого более надежным подходом будет использование методов верификации, таких как обратные звонки на известные номера и использование кодовых слов для подтверждения личности.
В заключение, исследование поднимает важные вопросы о том, как AI меняет ландшафт мошенничества и как организации могут адаптироваться к новым вызовам. Важно помнить, что фишинг остается экономически выгодным, и AI только расширяет возможности мошенников, убирая языковые и географические барьеры.