В последние годы искусственный интеллект (ИИ) стал не только мощным инструментом, но и источником новых рисков для организаций. Согласно свежему отчету компании Logicalis, безопасность ИИ вышла на первый план для руководителей информационных технологий (CIO). В ходе опроса более 1000 CIO по всему миру выяснилось, что более 25% из них рассматривают ИИ как серьезный источник угроз, сравнимый с традиционными рисками, такими как вредоносные программы, программы-вымогатели и фишинг.
Одной из основных причин беспокойства является неправильное использование ИИ сотрудниками. 57% CIO отметили, что действия персонала ставят под угрозу безопасность данных. Несмотря на растущие риски, меры по управлению ИИ остаются ограниченными: только 37% организаций имеют представление о том, какие ИИ-инструменты используются в их работе.
Проблемы, связанные с внедрением ИИ, настолько значительны, что почти половина респондентов выразила желание, чтобы ИИ "не был изобретен". Хотя традиционные угрозы по-прежнему остаются главной заботой CIO, ИИ все чаще упоминается как риск, с которым бизнес-руководители сталкиваются в условиях теневого ИИ, разрастания приложений и недостатка контроля.
Команды безопасности, которые и без того испытывают нагрузку, теряют позиции из-за увеличения слепых зон: более одной трети опрошенных сообщили о снижении способности обнаруживать нарушения и ухудшении времени реагирования на инциденты. Внутреннее использование ИИ также создает новые вызовы для рабочей силы. Две трети респондентов считают обучение сотрудников по управлению рисками ИИ недостаточным, а 94% CIO сообщают о нехватке специалистов в области кибербезопасности.
В ответ на эти вызовы CEO Logicalis Group подчеркивает важность интеграции управления и прозрачности в инициативы по ИИ с самого начала, чтобы обеспечить долгосрочную стабильность. Эти выводы перекликаются с более широкими отраслевыми опасениями. Недавние исследования показывают, что неструктурированные данные и плохо управляемые ИИ-пайплайны расширяют поверхность атаки предприятий, при этом 68% компаний сообщают, что большая часть их данных остается незащищенной.
Инициативы, такие как Project Glasswing, подчеркивают растущее стремление к масштабированию управления наряду с внедрением технологий. Важно, чтобы организации не только реагировали на угрозы, но и принимали превентивные меры для их предотвращения.