Искусственный интеллект в медицине: от "галлюцинаций" чат-ботов до реальной помощи врачу

Ректор Высшей школы организации и управления здравоохранением (ВШОУЗ) Гузель Улумбекова подчеркивает, что профильные ИИ-модели для анализа снимков уже реально повышают эффективность медпомощи. Однако эксперт предупреждает: главная сложность сегодня — это острая потребность в инвестициях для закупки оборудования, обучения врачей и жесткого контроля за нейросетями. На фоне этих вызовов серьезной угрозой становятся универсальные чат-боты, которые при нехватке данных ошибаются и выдумывают диагнозы в 80% случаев.

В то время как специализированный ИИ (анализ КТ, МРТ, ЭКГ) успешно работает в регионах России как помощник врача , языковые модели генерируют советы на базе вероятностей из интернета, а не медицинской логики. Но даже профессиональные алгоритмы дают сбои при плохом качестве снимков или сталкиваясь с нестандартными пациентами — для ИИ это неизученная «серая зона». В России ситуация усугубляется тем, что пользователи не видят разницы между сертифицированным медицинским ИИ и развлекательными ботами.

Ключевая идея для безопасного развития отрасли — четко разделить профессиональные системы поддержки врачебных решений и чат-боты общего назначения. Эксперты настаивают на срочном введении единых стандартов валидации ИИ, маркировки систем по уровню доверия и ответственности разработчиков. Также необходимо интегрировать ИИ в медицинскую ИТ-инфраструктуру , обучать нейросети на отечественных клинических данных и сохранять строгий контроль Росздравнадзора за алгоритмами.

Читать статью полностью