В своем последнем отчете о киберугрозах HP раскрыла, что преступники используют генеративный ИИ для создания вредоносного ПО. В частности, была выявлена кампания, нацеленная на франкоязычных пользователей, где ИИ применялся для разработки вирусов. Первые признаки этой активности были обнаружены в июне, когда исследователи заметили комментарии в коде, что является характерным признаком работы ИИ.
Злоумышленники использовали HTML-скрытие для доставки защищенного паролем ZIP-архива, который исследователи смогли разблокировать с помощью брутфорса. При анализе кода внутри архива было установлено, что злоумышленники комментировали весь код, что крайне редко для человеческой разработки. Структура кода, комментарии к каждой строке и использование родного языка для имен функций и переменных также указывают на применение ИИ.
Эксперты по безопасности предупреждают, что киберпреступники могут использовать генеративный ИИ для написания фишинговых писем. Даже менее опытные злоумышленники начинают применять ИИ для создания и настройки вредоносного ПО, адаптируя его под различные регионы и платформы. Ранее в 2023 году сообщалось, что преступники использовали ChatGPT для написания кода и запуска кибератак. Несмотря на обновления безопасности, злоумышленники, похоже, нашли способы обойти ограничения, установленные для генеративных ИИ.