Недавний отчет Hacker-Powered Security показал, что в сообществе специалистов по безопасности существует настороженность по поводу использования ИИ. Опрос, проведенный среди 500 профессионалов, выявил, что 35% из них беспокоит утечка обучающих данных, а 33% — несанкционированное использование технологий. Кроме того, 32% респондентов опасаются взлома ИИ-моделей.
Согласно дополнительным данным от SANS Institute, 58% специалистов считают, что между командами безопасности и злоумышленниками может возникнуть "гонка вооружений" в использовании генеративного ИИ. Несмотря на успехи в автоматизации рутинных задач, 79% респондентов выражают беспокойство по поводу фишинговых атак с использованием ИИ.
Чтобы справиться с этими вызовами, более двух третей опрошенных (68%) считают, что внешняя проверка ИИ-решений поможет выявить проблемы безопасности. Важно помнить, что ИИ не может заменить человеческий контекст в вопросах безопасности, и его внедрение должно быть тщательно продумано.