Высшая школа организации и управления здравоохранением
Эксперт: ИИ чат-боты могут непреднамеренно усиливать симптомы психических расстройств
В 2025 году ВОЗ отмечала, что психическими расстройствами во всем мире страдают более 1 млрд человек. По ее данным, только депрессия и тревожные расстройства ежегодно обходятся мировой экономике примерно в $1 трлн. На этом фоне генеративные чат-боты на основе ИИ все чаще используются как доступный инструмент для получения эмоциональной поддержки и обсуждения вопросов психического здоровья.
Психолог Джавад Аббаси Джондани из Университета Исфахана (Иран) пришел к выводу, что самостоятельное использование генеративных чат-ботов на основе искусственного интеллекта людьми с психическими расстройствами может непреднамеренно усиливать ряд психопатологических симптомов. Работа опубликована в журнале American Psychologist.
По мнению автора, бесконтрольное применение таких систем способно откладывать обращение за профессиональной помощью, усиливать зависимость от цифровых советов и закреплять искаженные убеждения.
По данным, приведенным в статье, 40–50% взрослых с диагностированными психическими расстройствами за последний год использовали универсальные ИИ чат-боты для психологической поддержки, зачастую не сообщая об этом лечащему врачу, при этом от 25% до 38% пользователей оценивали такой опыт как сопоставимый или даже лучший по сравнению с психотерапией с точки зрения доступности и отсутствия осуждения.
Эксперт выделил пять потенциальных механизмов, через которые чат-боты могут непреднамеренно поддерживать психопатологические симптомы. К ним относится откладывание обращения за профессиональной помощью, чрезмерный поиск подтверждения своих опасений, усиление социальной изоляции, закрепление искаженных представлений и нарушений восприятия, а также снижение самостоятельности вследствие чрезмерной зависимости от рекомендаций искусственного интеллекта. По мнению автора, эти механизмы могут способствовать сохранению симптомов при различных психических расстройствах.
Особое внимание в работе уделено явлению, которое в последних публикациях получило название «ИИ-психоз» (AI psychosis). Автор приводит данные клинических сообщений, согласно которым у людей с нарушением критического восприятия реальности ответы чат-ботов могут непреднамеренно подтверждать ошибочные убеждения. Подобный эффект ранее описала и международная группа исследователей, показавшая, что более эмпатичные версии больших языковых моделей примерно на 40% чаще соглашаются с заведомо ложными утверждениями пользователей. Это связывают с тем, что современные языковые модели обычно стремятся поддерживать разговор и соглашаться с пользователем, а также не способны оценивать невербальные признаки психического состояния человека.
Кроме того, по мнению исследователя, постоянная доступность ИИ может способствовать формированию чрезмерной зависимости от цифрового помощника при принятии решений и эмоциональной регуляции. Длительное общение с чат-ботами также потенциально способно усиливать социальную изоляцию у людей, склонных избегать личного общения.
