Зачем нужен искусственный интеллект нового поколения

24 февраля 2021

Руководителем проекта по созданию искусственного интеллекта нового поколения стал директор Центра математического моделирования в Университете Лестера Александр Горбань. С ним поговорил корреспондент "РГ".

Сегодня почти аксиома: кто выиграет в гонке систем искусственного интеллекта (ИИ), тот будет владеть миром. Ведущие страны вкладывают в эту сферу огромные средства. В вашем проекте заявлено, что будут созданы, прежде всего для медицины, надежные и логически прозрачные системы ИИ нового поколения. А сегодня такие системы разве не надежные и не прозрачные? И что такое - новое поколение ИИ?

Александр Горбань: Самое громкое событие, связанное с применением ИИ в медицине, это провал широко разрекламированной многомиллионной системы знаменитой фирмы IBM. Оказалось, что она ставит диагнозы и консультирует хуже среднего врача. После нескольких лет работы систему удалили с рынка. В чем главное проблема применения ИИ в так называемых чувствительных сферах, где от него зависит жизнь человека? В ошибках интеллекта. Протоколы его взаимодействия и человека сложнейший вопрос, мы пока плохо друг к другу приспособлены. Хотя ИИ и очень умный, но и он далеко не безгрешен, совершает ошибки. Так вот, если мы не научимся с ними работать, причем быстро и эффективно, наступит "зима" ИИ. Выживут только те области, где от его применения не зависит наша жизнь. И точно это не медицина. Данную проблему наука, после нескольких лет эйфории и громких успехов ИИ, начинает осознавать только сейчас. А в нашем проекте мы считаем ее главной.

То есть надо научиться исправлять огрехи ИИ?

Александр Горбань: Не совсем. Надо научиться с ними работать. Представьте, что ИИ где то ошибся. Как его поправить? Сегодня схема действий такая. Я должен взять эту ошибку , вернуться к исходной точке, в первый класс, когда он только начал обучаться на примерах, скажем, как по ренгеновским снимкам диагностировать рак молочной железы. И с самого переучить его с учётом этой ошибки. Это гигантская, непрактичная работа.

А можно действовать иначе. Не возвращаться к азам, не портить то, что он уже освоил, а понять причину ошибки. И здесь мы приходим к логической прозрачности. Нам надо понять ход мысли ИИ, его логику, его путь к ошибке. Это сегодня мировой тренд. Даже есть программы "Объяснимый искусственный интеллект ".

Зачем нам вообще надо знать, как он решил задачу? Ведь это нейронные сети, они как то организованы, их обучили на примерах, и они успешно работают. Зачем нам знать, что происходит внутри этого умного "черного ящика".

Александр Горбань: Вы повторили аргумент нашего известного ученого, профессора Виталия Дунина-Барковского . Он говорит, мы же не знаем, как устроен мозг, не понимаем, как он работает, может никогда и не узнаем. Но результатами все пользуется. Если бы ИИ работал безошибочно как оракул, то с этим можно согласиться. Но, как я сказал, он может ошибиться. И нам надо понять причину логической ошибки, откуда она прилетела. На каком этапе. И "ремонтировать" ИИ, переучивать его именно здесь, не возвращаясь к истокам. Причем переучивать быстро и эффективно.

В итоге будет создан ИИ нового поколения, который сможет исправлять собственные погрешности. Это поможет кардинально изменить подход к диагностике и лечению многих заболеваний, в том числа онкологических, возрастных, на раннем этапе выявлять различные патологии.

Фактически речь идет о персонализированной медицине, высокотехнологичному здравоохранению, развитие которых заложено в нацпроект "Наука". Но ведь сферы применения ИИ гораздо шире. Среди систем нового поколения найдется им место?

Александр Горбань: Именно это и предусмотрено в проекте. Кратко перечислю области, где будет работать наш ИИ. Это новые алгоритмы проектирования квантовых систем, поиск новых сверхпроводников, изучение лазерной плазмы, ее взаимодействия с различными мишенями, диагностика стрессовых состояний сельскохозяйственных растений, анализ климатических данных для предсказания экстремальных и опасных явлений, прежде всего для Арктики. Участвовать в этих работах будут авторитетные ученые из разных стран.

<…>

Источник: https://rg.ru/2021/02/24/zachem-nuzhen-iskusstvennyj-intellekt-novogo-pokoleniia.html