В последние месяцы в центре внимания оказалась работа, проведенная в рамках администрации Трампа, по оптимизации контрактов Министерства по делам ветеранов. В этом процессе был создан инструмент на основе искусственного интеллекта, который, как выяснилось, оказался неэффективным и привел к серьезным ошибкам.
Инженер, не имеющий опыта в здравоохранении или госуправлении, разработал программу, которая должна была определить ненужные контракты с частными компаниями. Однако результаты работы оказались далеки от идеала: AI ошибочно оценивал стоимость контрактов, что в итоге могло привести к отмене важных услуг для ветеранов.
Согласно отчетам, инструмент, названный "MUNCHABLE", выявил более 2000 контрактов, которые могли быть отменены. Однако многие из этих контрактов были связаны с критически важными услугами, такими как анализ образцов крови и поддержка исследований по лечению рака. В результате некоторые из этих контрактов уже были отменены, что вызвало обеспокоенность среди сотрудников VA.
Эксперты по искусственному интеллекту и госзакупкам выразили сомнения в целесообразности использования AI для таких сложных задач. Они отметили, что программа не учитывала контекст работы VA и не могла адекватно оценить важность контрактов. В результате AI мог рекомендовать отмену контрактов, которые на самом деле были необходимы для обеспечения качественной медицинской помощи ветеранам.
Инженер, разработавший этот инструмент, признал наличие ошибок в коде и отметил, что его работа не была должным образом проверена. Он также подчеркнул, что решения о сокращении контрактов принимались людьми, а не только на основе его анализа.
Несмотря на критику, представители VA заявили, что они продолжают пересматривать свои контракты, чтобы убедиться, что каждый из них действительно приносит пользу ветеранам. Однако процесс принятия решений остается непрозрачным, и многие сотрудники VA выражают опасения по поводу возможных последствий сокращений.
Таким образом, ситуация с использованием AI в госуправлении поднимает важные вопросы о надежности технологий и необходимости человеческого контроля в принятии решений, касающихся здоровья и благополучия граждан.