Ученые предложили создать многоагентную систему ИИ для центров клинических исследований

Фото: magnific.com / Автор: magnific

Международная команда исследователей сообщила о разработке многоагентной системы искусственного интеллекта (ИИ) ASTRA для автоматизации работы центров клинических исследований. Согласно концепции системы, центральный ИИ-агент должен координировать специализированные цифровые команды, отвечающие за отдельные этапы КИ, тогда как принятие ключевых клинических и регуляторных решений остается за специалистами.

Авторы работы, опубликованной в Digital Medicine, акцентируют внимание на том, что система ASTRA, состоящая из центрального координатора и десяти функциональных команд, охватывает разработку протокола, управление данными, контроль качества, биостатистику, мониторинг безопасности, работу исследовательских центров и лабораторий, взаимодействие с пациентами и другие направления. При этом исследователи не подразумевают полностью передавать проведение исследований ИИ-агентам. Они разделяют задачи на три группы: выполняемые человеком, выполняемые системой с последующей проверкой специалистом и те, которые агенты смогут выполнять самостоятельно в заранее установленных границах. Клинические решения, интерпретация неоднозначных сообщений о нежелательных явлениях, утверждение промежуточного анализа и другие действия, требующие профессионального или этического суждения, должны оставаться за людьми. Все действия агентов предполагается фиксировать в журнале аудита, а доступ каждого из них – ограничивать необходимыми для его работы данными.

Создатели утверждают, что ASTRA пока представляет собой концептуальную архитектуру, а не проверенную в реальных исследованиях систему. Ее внедрение потребует интеграции с существующими платформами, настройки под локальные стандартные операционные процедуры, защиты от ошибок и «галлюцинаций» языковых моделей, контроля версий и регулярной проверки работы алгоритмов.

Авторы предлагают сначала протестировать подход на данных завершенных исследований, затем запустить агентов параллельно с обычными процессами без влияния на ход испытаний и лишь после этого проверять отдельные низкорисковые функции в действующих проектах.