Киберугрозы становятся все более изощренными, и в последние месяцы мы наблюдаем, как мошенники адаптируют свои схемы к использованию искусственного интеллекта. Microsoft и Google выпустили отдельные рекомендации, в которых подчеркивают, что злоумышленники используют AI как приманку для своих атак, подделывая известные платформы, такие как ChatGPT и Microsoft Copilot, чтобы распространять вредоносное ПО и красть учетные данные.
Microsoft в своем отчете отмечает, что преступники активно используют интерес к AI, чтобы повысить эффективность своих атак. Они применяют привычные методы социальной инженерии, такие как создание срочных сообщений и использование доверенных сервисов, чтобы обмануть пользователей. Например, злоумышленники могут отправлять фальшивые письма о продлении подписки на ChatGPT или создавать поддельные репозитории, чтобы распространять вредоносное ПО.
Google также указывает на эволюцию традиционных методов фишинга, таких как атаки "противник посередине" и фишинг через QR-коды. В их рекомендациях подчеркивается, что мошенничество становится все более сложным и глобальным, с прогнозируемыми потерями от мошенничества, которые могут достичь 580 миллиардов долларов к 2025 году.
Исследователи безопасности отмечают, что с ростом использования AI в бизнесе акцент смещается с технических уязвимостей на поведение пользователей. Важно понимать, что атаки теперь направлены на то, как сотрудники взаимодействуют с AI, и как они доверяют информации, которую получают от AI-сервисов.
Эксперты советуют организациям адаптировать свои программы безопасности к изменяющемуся поведению пользователей, а не просто реагировать на отдельные фишинговые атаки. Стратегия должна включать в себя создание устойчивости к атакам, а не только блокировку отдельных попыток мошенничества. Важно управлять всей экосистемой безопасности, чтобы предотвратить дальнейшие угрозы, которые могут возникнуть в результате использования AI в повседневной работе.