Исследователи поставили под сомнение человекоподобный дизайн медицинских ИИ

ФОТО: Designed by freepik

Изменить подход к оформлению медицинских систем искусственного интеллекта (ИИ), которые работают напрямую с пациентами, призвали ученые Маастрихтского университета (Нидерланды) и Университета Базеля (Швейцария). В статье, опубликованной в журнале Digital Medicine, они отмечают, что человекоподобные визуальные образы формируют у пользователей завышенные ожидания, вызывают настороженность и способны снижать доверие к врачам. Исследователи предлагают перейти ко ксеноморфным решениям, где ИИ намеренно выглядит не как человек и не пытается им казаться.

По мнению авторов публикации, качество помощи определяется не только точностью рекомендаций, но и полнотой человеческого взаимодействия, которое оказывает доказанное влияние на исход лечения и не может быть заменено даже высокоточным ИИ. Представление цифрового ассистента как почти идеального виртуального врача, по их оценке, размывает границу между человеком и алгоритмом и ослабляет ключевые элементы клинической коммуникации.

Ксеноморфный подход предлагает противоположную стратегию: намеренно подчеркивать нечеловеческое происхождение ИИ. Это может включать образы, не похожие на человеческие лица, нестандартную пластику движений или иные формы виртуального воплощения. В таком виде ИИ не конкурирует с врачом за доверие пациента, а создает отдельный, дополнительно полезный тип взаимодействия. Исследователи сравнивают этот эффект с терапией с участием животных, где улучшение состояния достигается за счет иной, не основанной на человеческом взаимодействии формой поддержки.

По замыслу авторов, ксеноморфный дизайн может снизить риски подмены медработников цифровыми ассистентами, уменьшить влияние социальных стереотипов и расширить набор терапевтических инструментов. Такой подход, считают исследователи, может лечь в основу новых стандартов разработки медицинских ИИ-моделей и использоваться регуляторами при определении требований к внешнему виду медицинских ИИ.