Согласно последним данным, подростки всё чаще ищут помощь у AI-чатботов для решения вопросов психического здоровья. Исследование показало, что каждый восьмой подросток обращается к таким сервисам, и две трети из них делают это как минимум раз в месяц. В связи с этим организация Common Sense Media запустила лабораторию, посвящённую безопасности AI для детей, и выпустила отчёт о том, насколько безопасны различные платформы.
Доктор Дарья Джорджевич, психиатр и медицинский антрополог, отметила, что миллионы детей используют эти приложения, некоторые из которых напрямую ориентированы на пользователей, а другие работают через школьных консультантов. Она подчеркнула, что отсутствие человеческого контроля в некоторых случаях может привести к серьёзным последствиям. Например, чатбот может не распознать кризисное состояние подростка или неправильно интерпретировать его эмоциональные переживания.
Сейчас рынок AI-терапии остаётся относительно неконтролируемым. Нет требований к лицензированию, ответственности за ошибки и минимальных стандартов безопасности для таких приложений. Это означает, что любая компания может позиционировать свой продукт как терапию или клиническую поддержку без каких-либо последствий. В отличие от этого, лицензированные терапевты несут ответственность за свои действия и обязаны следовать этическим стандартам.
Доктор Джорджевич также выразила надежду на то, что AI может помочь в устранении неравенства в доступе к психическому здоровью, особенно для тех, кто не может позволить себе услуги профессионалов. Однако она предостерегла от того, чтобы рассматривать AI как простое решение проблемы, так как это может усугубить существующие неравенства.
Важным аспектом является наличие человеческого контроля при использовании AI для психического здоровья. Доктор Джорджевич рекомендует, чтобы такие платформы были связаны с профессионалами, чтобы минимизировать риски. Некоторые платформы, такие как Sonar и AlongSide, уже внедряют механизмы, позволяющие вовлекать реальных специалистов в процесс, что значительно снижает риски.
В заключение, эксперты надеются на создание стандартов и регуляторных норм для AI-приложений в области психического здоровья, чтобы обеспечить безопасность пользователей и предотвратить возможные негативные последствия.