Недавнее исследование, проведенное Университетом Сассекса, выявило, что чат-боты для психического здоровья наиболее эффективны, когда пользователи формируют с ними эмоциональную связь. В условиях, когда более одной трети жителей Великобритании обращаются к искусственному интеллекту для поддержки своего психического состояния, результаты исследования подчеркивают важность как эффективной терапии, так и ответственного подхода к разработке таких технологий.
Анализ отзывов 4000 пользователей популярного приложения для психического здоровья показал, что эмоциональная близость к ИИ способствует положительным изменениям в благополучии. Однако исследование также поднимает важные вопросы о том, как такие технологии должны быть спроектированы, чтобы защищать пользователей в моменты стресса.
Ассистент-профессор Университета Сассекса, доктор Рунью Ши, отметил, что формирование эмоциональной связи с ИИ запускает процесс самораскрытия, что, в свою очередь, может привести к улучшению психического состояния. Несмотря на то что приложение Wysa было специально разработано для поддержки психического здоровья, многие пользователи обращаются к стандартным ИИ, что создает риски застревания в замкнутом круге опасных восприятий.
Исследователи также обратили внимание на растущее число случаев, когда люди формируют отношения или даже браки с искусственным интеллектом, что подчеркивает важность понимания этапов формирования интимности с ИИ. Этот процесс включает в себя цикл, в котором пользователи делятся личной информацией, испытывают эмоциональный отклик и, в конечном итоге, создают близкие отношения с приложением, которое они начинают воспринимать как друга или терапевта.
Профессор Димитра Петракаки из Университета Сассекса добавила, что интимность к ИИ стала частью современной жизни, и разработчики приложений должны учитывать это, обеспечивая безопасность пользователей, особенно в случаях, когда ИИ может обнаружить, что кто-то нуждается в клиническом вмешательстве.
С учетом того, что чат-боты все чаще заполняют пробелы в перегруженных службах, такие организации, как Mental Health UK, призывают к срочным мерам для обеспечения безопасной и адекватной информации для пользователей.