Сейчас в сфере здравоохранения активно внедряются технологии искусственного интеллекта, охватывающие все аспекты — от клинической документации до триажа пациентов. Однако, как отмечает эксперт Altera Digital Health, существует серьезный риск, связанный с автоматизацией — это так называемая "комплексная усталость".
По словам специалиста, в настоящее время обсуждение рисков в основном сосредоточено на точности алгоритмов и предвзятости, в то время как последствия повседневного взаимодействия врачей с ИИ остаются в тени. Это явление похоже на известную проблему "усталости от уведомлений", когда постоянный поток оповещений приводит к снижению внимания.
Когда врачи сталкиваются с непрерывным потоком выводов, сгенерированных ИИ, их критическое восприятие может ослабевать. Это может иметь серьезные последствия для безопасности пациентов. Основная проблема заключается не в технологиях, а в психологии взаимодействия человека и машины в рамках рутинных клинических процессов.
С увеличением использования ИИ в здравоохранении риск стать слишком зависимым от его выводов возрастает. Это может привести к накоплению мелких, но значительных ошибок, которые остаются незамеченными. Например, с появлением технологий "ambient listening" для клинических заметок незначительные неточности в транскрипции могут не быть замечены врачами, если они перестанут внимательно проверять результаты.
Хотя заметка может выглядеть корректной и подходить для выставления счетов, такие мелкие несоответствия могут накапливаться в истории болезни пациента, что в конечном итоге может привести к серьезным последствиям.
Риски, связанные с автоматизацией, варьируются в зависимости от конкретного применения ИИ. Например, использование ИИ для выставления счетов или планирования значительно отличается от его применения для оценки рисков здоровья пациента. С увеличением интеграции технологий в клиническое принятие решений они могут подлежать более строгому регулированию.
Таким образом, решение проблемы автоматизации не сводится только к технологическим улучшениям, но становится критически важным для обеспечения безопасности пациентов и адаптации к меняющемуся правовому ландшафту ИИ в здравоохранении. В 2026 году здравоохранение вступает в новую фазу интеграции ИИ, где психологические и практические вызовы становятся реальностью, с которой IT-специалистам предстоит справляться.