Медицинский ИИ: прорыв в диагностике или риск для пациентов?

Смотришь на свой фитнес-браслет, а потом спрашиваешь симптом у чат-бота? Поздравляю, вы уже в строю первых добровольцев, тестирующих ИИ в медицине. Он уже повсюду: в сенсорах, которые мы носим, и в программах, которые учатся читать рентген лучше иных специалистов.

Эрик Тополь, кардиолог с 30-летним стажем, не находит слов от восторга: по его словам, он не видел ничего революционнее искусственного интеллекта за всю свою практику. И правда, звучит захватывающе: представьте, как алгоритмы берут на себя рутину — расшифровку снимков сердца, мозга, сетчатки — освобождая врачам время для самого главного: разговора с человеком. Но так ли всё безоблачно?

Даже строгое американское Управление по контролю за продуктами и лекарствами (FDA), одобрившее за пять лет больше 40 ИИ-продуктов, признаёт: это прорыв. Об этом, кстати, пишет Scientific American.

Однако за этим фасадом прорыва скрывается тревожная реальность. Часть экспертов в ужасе: а что, если эти умные алгоритмы окажутся сырыми и недоделанными? Существует вполне обоснованный страх, что IT-индустрия, привыкшая жить по принципу «выпустим сейчас, починим потом», перенесёт эту практику в медицину. И регуляторы, кажется, не спешат нас от этого защитить.

Милдред Чо из Стэнфорда подтверждает: проблемы уже есть. Алгоритм, блестяще работающий в одной клинике, «глючит» в другой. Системы, обученные на данных белых пациентов, сбоят при диагностике цветных. А ведь ИИ иногда делает выводы на основе странных, немедицинских факторов — разве можно такое допускать?

«Это лишь вопрос времени, когда подобная ошибка приведёт к серьёзным осложнениям», — мрачно предрекает Стивен Ниссен, глава кардиологии Кливлендской клиники. И с ним сложно не согласиться.

А знаете, что самое шокирующее? Лишь один-единственный ИИ-продукт в США прошёл золотой стандарт проверки — рандомизированные испытания. Он помогал находить больше полипов при колоноскопии. В основном же стартапы предпочитают громкие пресс-релизы рецензируемым научным журналам, а их творения тестируются в стерильных лабораториях, а не в хаосе реальных больниц.

Ситуация с медицинскими приложениями ещё плачевнее. Из 320 тысяч существующих программ для пациентов и врачей, по данным Национальной медицинской академии США, почти ни одна по-настоящему не работает. Цифра, заставляющая задуматься, не правда ли?

Аналитики резонно замечают: у разработчиков просто нет стимула проводить долгие и дорогие испытания. Таковы правила экономической игры. И здесь на сцену должны выйти врачи. «Если задача предпринимателей — масштабироваться и рисковать, — говорит кардиолог Викас Сайни, — то долг докторов — защищать своих пациентов». Вот именно. Кто, если не они, встанет на нашу защиту в этой цифровой гонке?