Европейская комиссия сделала важный шаг в регулировании искусственного интеллекта, опубликовав проект руководства по инцидентам с серьезными последствиями в рамках Закона о ИИ. Этот документ предназначен для помощи поставщикам и развертывателям высокорисковых ИИ-систем в соблюдении обязательств по мониторингу и отчетности о серьезных инцидентах и массовых нарушениях.
Проект руководства разъясняет ключевые определения и обязательства по отчетности, предоставляя практические примеры и объяснения. В частности, он уточняет, что такое серьезный инцидент и в каких случаях необходимо сообщать о нем. Например, если сбой ИИ-системы приводит к смерти или серьезным повреждениям, это считается серьезным инцидентом.
Документ также акцентирует внимание на том, что нарушения прав, защищенных Хартией основных прав ЕС, должны быть отчетными только в тех случаях, когда они существенно влияют на эти права в широком масштабе. Примеры таких нарушений включают дискриминацию в процессе найма или кредитования, а также ошибки в биометрической идентификации.
Кроме того, проект руководства подчеркивает, что одно и то же событие может вызвать обязательства по отчетности в рамках различных законодательств ЕС. Например, в рамках Директивы о резильентности критических объектов организации в ключевых секторах должны сообщать о инцидентах, нарушающих основные услуги, в течение 24 часов. Однако в рамках Закона о ИИ требуется дополнительная отчетность только в случаях, связанных с нарушением прав.
Европейская комиссия также представила шаблон для отчетности о серьезных инцидентах, который поможет упростить процесс. Проект руководства и шаблон доступны для ознакомления, а заинтересованные стороны могут оставить свои отзывы до 7 ноября 2025 года.
Таким образом, новый документ станет важным инструментом для обеспечения безопасности и соблюдения прав в сфере высоких технологий, что, безусловно, будет способствовать развитию ответственного и этичного использования ИИ в Европе.