Nature Medicine: медицинский ИИ дает сбой при работе вне привычной среды

ФОТО: Designed by freepik

В журнале Nature Medicine опубликована статья, согласно которой ученые из Гарвардской медицинской школы и ряда исследовательских центров США и Израиля проанализировали, почему медицинские системы искусственного интеллекта (ИИ) плохо масштабируются в реальной клинической практике.

В основе работы - анализ архитектуры медицинских ИИ-моделей и типовых сценариев их применения в клинической практике. Исследователи выделяют четыре ключевых измерения контекста, в которых модели чаще всего дают сбой: клиническая специальность, география оказания помощи, характеристика пациентских популяций и роль пользователя в системе здравоохранения. Именно одновременное смещение по нескольким из этих осей, по мнению авторов, приводит к наибольшему числу ошибок.

Авторы отмечают, что большинство медицинских ИИ сегодня опираются на двухэтапную схему - предварительное обучение на больших универсальных датасетах и последующее узкоспециализированное дообучение под конкретные задачи. Такой подход обеспечивает высокую точность в стандартных тестовых сценариях и на типовых наборах данных, но плохо работает при переносе между клиниками, регионами и группами пациентов. В результате модели формируют контекстные ошибки - выводы выглядят клинически правдоподобными, но не учитывают реальные ограничения доступа к помощи, инфраструктуры или маршрутизации пациентов.

Отдельное внимание уделено многоагентным и мультимодальным системам. Согласно архитектуре, предлагаемой авторами, разные компоненты ИИ специализируются на отдельных типах данных - медицинских изображениях, лабораторных показателях, клинических заметках и взаимодействии с пользователем. Контекстное переключение позволяет системе гибко подключать нужные модули в зависимости от клинической задачи и роли пользователя, например, активировать профильные экспертные компоненты или менять формат коммуникации.

Такая организация, по убеждению исследователей, крайне важна для сложных клинических ситуаций, когда требуется одновременно учитывать несколько диагнозов, схем лечения и ограничений системы здравоохранения.