Эксперты разработали единый набор практических рекомендаций по применению ИИ в медицинских научных статьях

Фото: magnific.com/автор freepik

Анализ действующих правил 15 крупнейших научных издательств и журналов, включая Elsevier, Springer Nature, JAMA, The Lancet и BMJ послужил базой для Международной группы исследователей при создании рекомендаций по использованию генеративного искусственного интеллекта (ИИ) в подготовке медицинских научных публикаций.

Основанием для их разработки стали опасения, связанные с фабрикацией ссылок, искажением данных, нарушением конфиденциальности и проблемами распределения ответственности за содержание научных работ. Также исследователи выявили существенные различия в требованиях к использованию ИИ. Несмотря на общее согласие по базовым принципам – обязательному раскрытию применения ИИ, запрету на указание нейросетей в качестве авторов и сохранению полной ответственности за публикацию за человеком, издательства по-разному трактуют допустимые сценарии использования генеративных моделей и глубину раскрытия такой информации.

Подготовленный единый набор практических рекомендаций допускает ИИ для языкового редактирования, подготовки введения, обсуждения результатов и улучшения читаемости текста, однако запрещается использовать генеративные модели для создания или изменения первичных научных данных, статистических результатов и экспериментальных изображений. Исследователи отдельно подчеркивают, что все факты, выводы и ссылки должны проверяться человеком из-за риска «галлюцинаций» и появления несуществующих публикаций.

Кроме того, предлагается стандартизированный чек-лист раскрытия использования ИИ по каждому разделу рукописи. В нем предлагается указывать название модели, версию, задачи применения, степень участия ИИ и факт проведения ручной проверки содержания. Предполагается, что такой подход упростит редакционную проверку статей и снизит «регуляторную неопределенность» для авторов и журналов.

Отдельное внимание в рекомендациях уделено медицинским изображениям и визуальным материалам. Документ запрещает использовать генеративный ИИ для изменения медицинских снимков, микроскопии, гистологии, графиков и других изображений, связанных с экспериментальными данными. При этом допускается применение ИИ для создания вспомогательных схем, иллюстраций и оформления визуализаций, если такие изменения не влияют на научный смысл и полностью раскрываются авторами статьи.