Искусственный интеллект стал вызывать больше доверия у врачей

ФОТО: Designed by freepik

Ученые медицинского центра Mayo Clinic и компании Zyter|TruCare предложили систему оценки надежности, которая делает работу медицинского ИИ более понятной и предсказуемой.Применение этой схемы позволило сократить долю отклоненных врачами рекомендаций с 87,6% до 33,3%, следует из статьи, опубликованной в журнале Diagnostics.

Исследователи протестировали решение на 6 689 клинических случаях сердечно-сосудистых заболеваний из международной базы MIMIC-III. Разработанный механизм позволяет ИИ не только формировать диагноз, но и объяснять, насколько он уверен в своем выводе, а также сравнивать собственный результат с диагнозом, поставленным врачом. Каждый ответ системы оценивается по трем параметрам – уровень уверенности, сходство с врачебным заключением и качество объяснения.

Система объединяет эти показатели в единый индекс доверия. Если объяснение выглядит неполным или неубедительным, разработка требует более высокой степени уверенности от модели, прежде чем врач сможет принять ее диагноз. Такой подход позволяет фильтровать ненадежные решения ИИ и сокращает число ситуаций, когда врач вынужден ставить их под сомнение. Так, при высокой уверенности модели (90–99%) врачи отклоняли лишь 1,7% рекомендаций, при низкой (70–79%) – почти все. Когда обоснование было минимальным, диагнозы отклонялись в 73,9% случаев, а при более понятных и развернутых объяснениях – в 49,3%.

С точки зрения авторов, одно из главных препятствий для внедрения ИИ в клиническую практику – это отсутствие прозрачности и точной калибровки уверенности. Новая система делает взаимодействие врача и ИИ более осмысленным: врач получает не просто готовый диагноз, а сопровождающее объяснение и оценку надежности. Такой формат снижает риск ошибок, связанных с чрезмерным доверием или, наоборот, недоверием к технологии, и помогает врачам быстрее принимать решения, говорится в публикации.

Исследователи считают, что предложенный подход может стать основой для будущих стандартов надежного и подотчетного ИИ в здравоохранении. В дальнейшем механизм планируется адаптировать для онкологии, неврологии и инфекционных заболеваний, а также интегрировать в электронные медицинские карты. Следующий этап – испытания в реальных клинических условиях, которые позволят оценить, как разработанная система влияет на точность диагностики и качество лечения пациентов.