Исследование: надежность ИИ-секретарей в медицине вызывает обеспокоенность

ФОТО: minzdrav.gov.ru

В журнале Digital Medicine опубликованы комментарии о системах на базе искусственного интеллекта (ИИ), которые во время приема фиксируют разговор врача и пациента и автоматически формируют медицинскую запись. По мнению исследователей, эти технологии сокращают время на документацию на 20–30% и уменьшают нагрузку на специалистов. Однако, как приходят к выводу эксперты, быстрое внедрение данных технологий чревато рисками для безопасности пациентов.

По данным авторов, уже около 30% клиник в США используют такие решения, а в одном из крупнейших госпитальных холдингов за 14 месяцев с их помощью было оформлено более 2,5 млн приемов у 7 тысяч врачей. Несмотря на широкое распространение, даже у передовых систем фиксируются ошибки в 1–3% случаев: они могут пропустить важные симптомы, перепутать, кто именно произнес фразу, или «галлюцинировать» – придумывать несуществующие диагнозы или обследования. Подобные сбои могут отразиться на качестве лечения и принятых врачебных решениях.

Отдельную обеспокоенность вызывает неравномерная работа алгоритмов. Системы хуже распознают речь пациентов с акцентом или особенностями произношения, что снижает точность записей для разных социальных групп. Кроме того, ИИ-секретари пока не способны учитывать невербальные сигналы – мимику, жесты или выражение лица, которые иногда играют важную роль для понимания состояния человека.

Эксперты отмечают, что внедрение ИИ-секретарей должно сопровождаться строгим тестированием, обучением врачей и едиными правилами ответственности. Похожая идея уж выдвигалась. Было предложено ввести новую медицинскую специализацию – алгоритмических консультантов, которые могли бы сопровождать применение ИИ и снижать риски ошибок.