Недавно CMORG, в рамках своей рабочей группы по искусственному интеллекту, выпустила обширное руководство, которое охватывает основные аспекты управления рисками, связанными с генеративным ИИ (Gen-AI). Это руководство, датированное январем 2025 года, включает в себя рекомендации по лучшим практикам для финансовых учреждений.
В документе рассматриваются несколько ключевых направлений. Во-первых, представлены подходы правительств и регуляторов к балансировке возможностей и рисков, связанных с Gen-AI, включая обзор новых регуляторных инициатив. Это важно для понимания того, как власти стремятся создать безопасную среду для внедрения новых технологий.
Во-вторых, руководство описывает принципы и рамки управления рисками, которые помогут организациям справляться с операционными, репутационными и комплаенс-рисками, возникающими при использовании Gen-AI. Это особенно актуально в условиях быстро меняющегося технологического ландшафта.
Техническая реализация также занимает важное место в рекомендациях. Руководство предлагает стандарты, которые компании должны учитывать при внедрении контрольных механизмов для управления рисками, связанными с использованием Gen-AI. В частности, акцент сделан на защите данных, кибербезопасности и управлении рисками моделей.
Кроме того, в документе рассматриваются юридические аспекты и риски, связанные с третьими сторонами, что подчеркивает необходимость четкого определения ролей и ответственности в цепочке поставок. Это поможет избежать потенциальных проблем, связанных с использованием решений на основе Gen-AI.
Наконец, руководство предлагает рекомендации по формированию культуры ответственного использования ИИ и обучению сотрудников, что является важным шагом для минимизации рисков и угроз, связанных с новыми технологиями.
Таким образом, данное руководство от CMORG представляет собой важный шаг к созданию безопасной и эффективной среды для внедрения искусственного интеллекта в финансовом секторе, что, безусловно, будет полезно для всех участников рынка.