Высшая школа организации и управления здравоохранением
Росздравнадзор намерен получать данные о работе медицинских систем с ИИ в автоматическом режиме
В Росздравнадзоре сообщили о разработке требований, согласно которым разработчиков и производителей медицинских технологий с искусственным интеллектом (ИИ) обяжут передавать данные о частоте использования таких устройств, сбоях и отклонениях в их работе в автоматическом режиме. Речь идет, например, о системах поддержки принятия врачебных решений, помогающих в обнаружении патологий, формировании предварительных диагнозов и сортировке целевых сведений. Такие системы используют диагностику электронных изображений, их визуальную оценку в режиме реального времени и обработку электронных медицинских карт.
В ведомстве рассчитывают, что проработка указанных требований позволит повысить эффективность мониторинга применения данных продуктов. По информации «Ведомостей», документ находится на межведомственном обсуждении. По некоторым экспертным мнениям, сейчас у Росздравнадзора нет необходимой системы или платформы, поэтому ее только предстоит создать.
По данным регулятора, в России зарегистрировано 48 медицинских изделий с ИИ, из которых 43 – отечественной разработки.
В предлагаемой инициативе речь идет о системе постоянного мониторинга работы решений на базе ИИ в медицине для обеспечения безопасности и эффективности их применения, считает основатель медтех-стартапа Unim Алексей Ремез. Но, по его словам, такая инициатива кажется избыточной: подобного требования к медизделиям без ИИ нет. Но, видимо, в силу новизны технологий регулятор стремится контролировать процесс внедрения, считает Ремез.
Директор Ассоциации разработчиков и пользователей искусственного интеллекта в медицине «Национальная база медицинских знаний» Борис Зингерман отметил, что учет неблагоприятных реакций при применении лекарств ведется уже не одно десятилетие, аналогичную систему намерен организовать и Росздравнадзор. По его мнению, в случае с ИИ-решениями система должна сама собирать информацию с устройств о сбоях или некорректной работе.
Начальник отдела маркетинга ЦКБ АО «РЖД-Медицина» Гарник Арутюнян полагает, что планируемые к сбору данные могут быть чувствительными, так как по ним можно оценить качество работы конкретного изделия, частоту ошибок и потенциальные уязвимости.
«В случае привязки таких данных к определенным клиникам или системам они косвенно могут отражать уровень заболеваемости и нагрузку на медучреждения. Сами по себе эти сведения не позволяют взломать систему, но могут подсветить слабые места – повторяющиеся сбои, особенности конфигурации или версий ПО. На этой основе злоумышленники способны подготовить целевые атаки», – утверждает Арутюнян.
В декабре 2024 года Минздрав РФ при участии главных внештатных специалистов представил Кодекс этики применения ИИ в сфере охраны здоровья. В ведомстве заявили, что документ необходим для регулирования отношений, связанных с этическими аспектами разработки, внедрением и использованием технологий ИИ.
Разработчики заметили, что следование его положениям поможет повысить доверие россиян к технологии, а также позволит разработчикам создавать необходимые для отрасли безопасные и конкурентоспособные решения. Документ утвержден в марте 2025 года.
