В последние дни в Сенате США активно обсуждается новый законопроект, который призван обеспечить более строгую проверку систем искусственного интеллекта (AI) перед их внедрением в федеральные учреждения. Законопроект, получивший название "Trustworthy by Design Artificial Intelligence Act", был представлен двумя сенаторами от Демократической партии и нацелен на создание надежной структуры для оценки AI-продуктов.
Согласно этому законопроекту, Национальный институт стандартов и технологий (NIST) будет обязан разработать "структуру надежности по дизайну", которая станет основой для оценки AI-систем. Это нововведение перекликается с инициативой по безопасности, реализуемой Агентством по кибербезопасности и инфраструктуре.
Законопроект также требует от NIST определения ключевых критериев оценки надежности, которые будут использоваться федеральными агентствами. Все компоненты AI-систем будут подлежать оценке на каждом этапе разработки. Один из авторов законопроекта подчеркнул, что "с великой силой приходит великая ответственность", добавив, что необходимо обеспечить безопасное использование AI.
Другой сенатор отметил, что законопроект поддержит инновации в области AI, которые уже активно развиваются в рамках консорциума AI в Нью-Мексико. Он подчеркнул, что четкие руководящие принципы помогут сделать AI более безопасным, прозрачным и справедливым.
Законопроект также предполагает, что руководители федеральных агентств будут обязаны публично отчитываться о соблюдении новых стандартов и оценке AI-систем. Системы, которые уже используются, должны будут пройти оценку по новым критериям в течение двух лет, иначе они будут выведены из эксплуатации.
Основной акцент законопроекта сделан на доверии к AI-системам, которое определяется как их надежность, безопасность, прозрачность и отсутствие предвзятости. Поддержка данного законопроекта поступила от ряда неправительственных организаций, выступающих за прозрачность и ответственность в использовании технологий.
Таким образом, новый законопроект может стать важным шагом к созданию более безопасной и этичной среды для внедрения искусственного интеллекта в государственные структуры.