Сейчас, когда генеративный ИИ (genAI) становится все более распространенным, утечки данных принимают новые формы. Ранее утечки происходили из-за небрежности сотрудников или атак злоумышленников. Теперь же данные могут утекать из облачных сервисов, SaaS-партнеров или даже через языковые модели, используемые в компаниях.
Недавний эксперимент студентов Гарварда с цифровыми очками, которые обеспечивают доступ к данным в реальном времени, продемонстрировал, как легко можно использовать такие технологии в преступных целях. Представьте, как злоумышленник может получить доступ к конфиденциальной информации, просто подойдя к вам. Это ставит под угрозу не только безопасность, но и репутацию компаний.
Что делать в таких условиях? Вот несколько рекомендаций:
1. Контрактные обязательства: Убедитесь, что ваши партнеры по AI несут ответственность за использование ваших данных.
2. Ограничение доступа к данным: Установите строгие правила для бизнес-единиц, работающих с AI-партнерами.
3. Наказания за нарушения: Введите жесткие меры против использования "теневого ИИ", чтобы предотвратить утечки.
4. Соблюдение норм: Убедитесь, что у вас есть разрешение на обмен данными с AI-партнерами, особенно за пределами США.
В условиях, когда данные могут быть использованы неправильно, важно иметь надежные механизмы контроля и защиты. Это поможет не только сохранить вашу информацию, но и защитить вашу компанию от юридических последствий.