Глава Центра диагностики и телемедицины Москвы: безопасный ИИ в медицине — наш приоритет

Четыре года назад в Москве стартовала работа по внедрению искусственного интеллекта (ИИ) в лучевую диагностику. Изображения КТ, МРТ, рентгенографии, маммографии и флюорографии врачи начали обрабатывать с помощью нейросетей. О том, зачем сегодня здравоохранению автономный искусственный интеллект, как это повлияет на пациента и систему в целом, в интервью ТАСС рассказал главный внештатный специалист по лучевой и инструментальной диагностике Департамента здравоохранения Москвы, директор столичного Центра диагностики и телемедицины Юрий Васильев.

— Юрий Александрович, насколько эффективно ИИ помогает врачам в нахождении заболеваний? Сколько всего исследований было проведено с помощью ИИ в Москве с 2020 года?

— Алгоритмы работают в рамках научного эксперимента по внедрению технологий компьютерного зрения в лучевую диагностику. Нейросети отмечают цветовыми подсказками области возможных патологий на медицинском изображении, производят измерения и составляют описание. Их использование сокращает время на интерпретацию диагностических исследований. Важным преимуществом компьютерного зрения является минимизация пропуска патологий на ранней стадии.

С помощью алгоритмов искусственного интеллекта в Москве врачи уже проанализировали более 11 млн лучевых исследований. Сегодня рентгенологам доступны уже 56 ИИ-сервисов по 29 клиническим направлениям.

— Насколько безопасен ИИ в медицине сегодня? Кто контролирует работу нейросетей?

— Сегодня ИИ-решения, которые работают в системе здравоохранения Москвы, контролируют врачи и ученые. В рамках московского эксперимента нашими специалистами осуществляется жесткий отбор и последующий контроль работы всех программных продуктов, которые находят признаки заболеваний на лучевых исследованиях пациентов. В случае некорректной работы любой сервис направляется на доработку. Тестирование и последующая доработка сервисов — один из основных этапов эксперимента.

Если мы говорим о стране, то сегодня создается нормативно-правовая база для ИИ, и первым шагом в этом направлении стали разработанные экспертами Центра диагностики и телемедицины национальные стандарты — ГОСТы. Они регламентируют процессы технических и клинических испытаний ИИ в лучевой диагностике, после прохождения которых сервис ИИ получает регистрационное свидетельство, на основе которого может работать самостоятельно в любом медицинском учреждении.

Мы предлагаем не ограничиваться ГОСТами, а регламентировать методики и требования к клиническим испытаниям ИИ: какие данные, какого объема, методики, метрики и так далее. Нельзя допустить халатного отношения к этому вопросу. Важно регламентировать методики контроля качества работы программного обеспечения уже после государственной регистрации, а также — обновления регистрационного удостоверения по мере появления новых версий программного продукта. Безопасный ИИ в медицине — наш приоритет.

— А если искусственный интеллект ошибется, кто будет отвечать?

— Наша идея состоит в том, что ответственность медработника должна ограничиваться выполнением инструкций пользователя, соблюдением правил эксплуатации, следованием показаниям и противопоказаниям к применению конкретного медицинского изделия. Параллельно должна быть значительно усилена ответственность тех, кто разрабатывает — IT-компании, и допускает к обращению — медицинские организации, проводящие клинические испытания медицинских изделий с ИИ.

— Что значит автономный искусственный интеллект?

— Автономным искусственным интеллектом называют систему, которой делегируют отдельные простые решения, принимаемые без вмешательства человека, при обеспечении полной безопасности для пациента.

Путь эволюции искусственного интеллекта в описании лучевых исследований от систем, основанных на символической логике и правилах, до сложных моделей машинного обучения, способных принимать автономные решения, занял четыре года.

Прорывной силой для нейросетей в лучевой диагностике как раз стал московский эксперимент по внедрению компьютерного зрения в здравоохранение. На основе научных знаний были разработаны безопасные методики внедрения, применения, а главное — контроля качества ИИ на всех этапах жизненного цикла.

— Обучают ли сейчас студентов работе с ИИ?

— Для работы с ИИ никаких специальных знаний от врача-рентгенолога не требуется. Использование сервисов искусственного интеллекта — это как использование удобных приложений на телефоне. Получая снимок на интерпретацию, рентгенолог может зайти в каталог сервисов, имеющихся по данной модальности, и выбрать нужный, алгоритм обрабатывает изображение за несколько минут, и врач получает проанализированное исследование. Далее врач сам решает, воспользоваться его подсказками или нет.

Однако, если врач хочет участвовать в подготовке датасетов для обучения ИИ или в тестировании алгоритмов, то ему понадобится специальное обучение. В частности, нами опубликовано первое в России официальное учебное пособие по разметке биомедицинских данных и формированию на их основе датасетов. В прошлом году мы совместно с МИРЭА — Российским технологическим университетом — открыли курс "Аспекты разработки и тестирования технологий искусственного интеллекта в здравоохранении".

— И какие же возможности показал искусственный интеллект в лучевой диагностике?

— Сегодня ИИ работает на ряде этапов диагностических исследований. Во-первых, как система поддержки принятия врачебных решений. Применительно к лучевой диагностике нейросети упрощают и ускоряют подготовку протокола заключения за счет предоставления предварительно заполненного шаблона. Врачи используют стандартные фразы для описания той или иной патологии, ИИ самостоятельно делает предзаполненные протоколы, врачу остается лишь его проверить. Во-вторых, в качестве инструментов автоматизации измерений разных параметров — морфометрии: длины, площади, объема. Сейчас большую часть рутинных измерений размеров и объемов делает ИИ, даже точнее, чем это делает врач. То есть работает как своеобразная линейка.

И в-третьих, искусственный интеллект как первое мнение в массовых профилактических исследованиях. Здесь ИИ вышел за рамки эксперимента и стал применяться в практическом здравоохранении как самостоятельная услуга в рамках обязательного медицинского страхования. С начала 2023 года двойное чтение маммографических исследований москвичей проводится искусственным интеллектом и врачом-рентгенологом. Уточню: это допущенное к обращению в соответствии с законодательством медицинское изделие на основе ИИ. Сначала медицинское изображение анализируют нейросети, затем — врач-рентгенолог. Мы достигли хороших результатов такого внедрения: за это время алгоритмы уже обработали более 270 тыс. снимков, а исследования ученых Центра диагностики и телемедицины доказали, что сервисы ИИ сокращают время описания маммограмм более чем в восемь раз, сохраняя высокое качество диагностики. Это позволило быстрее предоставлять пациентам результаты исследований, врачи же при этом экономят значительные временные ресурсы.

— Какой следующий уровень автоматизации ИИ?

— Согласно исследованиям наших экспертов, уже сейчас сервисы для анализа лучевых профилактических исследований достигли уровня максимальной чувствительности, то есть искусственный интеллект научился отличать исследования с признаками патологии и без нее. На данный момент мы готовы организовать автономную сортировку на "норму" и "не норму" в массовых профилактических исследованиях — например, флюорографии. По нашим предварительным подсчетам, порядка половины профилактических исследований уйдут в категорию "норма", соответствующее описание будет сформировано автоматически в карте пациента. Врачи не будут тратить время на рутинное описание нормы. На качестве помощи пациентам это не скажется, зато возрастет скорость получения результатов, потенциальная экономия в масштабе страны будет исчисляться миллиардами, и эти деньги могут быть перенаправлены на решение других актуальных важных задач здравоохранения. Отмечу, что на стадии тестирования автономного ИИ все 100% исследований будут независимо пересматриваться экспертами в течение 24 часов. Это необходимо для обеспечения безопасности пациента.

— Насколько оправдан такой шаг — доверить ИИ принимать решения без вмешательства человека?

— Сегодня одна из приоритетных задач государственной политики в сфере здравоохранения — увеличение охвата населения профилактическими медицинскими осмотрами в целях раннего выявления хронических заболеваний. Это такие исследования, как маммография, флюорография. Ежегодно в стране проводятся десятки миллионов данных исследований, и частота проведения их в соответствии с требованиями Министерства здравоохранения РФ в течение последних нескольких лет непрерывно увеличивается. Безусловно, это требует весомых затрат системы здравоохранения. И здесь самый дорогой ресурс — человеческий. По обобщенным научным данным, выявляемость патологии обычно не превышает 1% на флюорографии, подавляющее большинство исследований — это норма. И получается, что огромное количество квалифицированных кадров задействованы в выполнении механической, простой задачи — описание нормы. Мы поняли, что в каком-то виде нужно идти к автоматизации этих процессов.

— Как это будет организовано на практике?

— Лечащий врач, к примеру, назначил профилактическое исследование, пациент его выполнил, далее автономный ИИ, проанализировав исследование, отсортировал его на "норму" или "не норму". "Не норма", кстати, — это не всегда обязательно болезнь, это могут быть возрастные изменения, особенности развития и так далее. Если искусственный интеллект отметил "не норму", такое исследование идет на описание врачу-рентгенологу, далее его анализирует врач. Если нейросеть отметила исследование как "норму", врач-рентгенолог уже не смотрит описание и результаты сразу сохраняются в карте пациента и доступны лечащему врачу и самому пациенту. Таким образом, врач-рентгенолог с категорией "норма" не работает совсем, освобождаются колоссальные временные ресурсы врача.

— Не "сместит" ли ИИ с рабочих мест врачей?

— Автономный искусственный интеллект в лучевой диагностике — это не замена врача, это автоматизация отдельных функций и операционных процедур. Ведь речь идет о помощи врачу в рутинных процессах. Часто мы говорим о выгорании врачей-рентгенологов и уход из профессии из-за потока утомительных, однообразных задач, таких как, например, описания "нормы". Именно эти действия мы и хотим передать искусственному интеллекту, чтобы врачи занимались более сложными, представляющими для них профессиональный интерес описаниями.

— А что это будет значить для пациента?

— Для пациента изменится скорость получения результатов своего исследования. По нашим прогнозам, описанное исследование будет возвращаться в личный кабинет пациента в случае нормы через 5 минут. Автоматизация ускорит процесс описания профилактических исследований, а значит — сделает данную услугу доступнее для населения.

— Как продвигается история с масштабированием проектов с ИИ на другие регионы России?

— С 2022 года Ямало-Ненецкий автономный округ сотрудничает с нашим Центром диагностики и телемедицины в плане работы с искусственным интеллектом. Исследования из региональных клиник в обезличенном виде передаются нейросетям через платформу HUB Telemed, разработанную специалистами нашего центра, и после обработки искусственным интеллектом возвращаются врачу в качестве дополнительной информации для итогового описания. Мы сопровождаем процесс и контролируем качество работы нейросетей. За это время было обработано уже более 60 тыс. исследований флюорографии, маммографии, рентгенографии и компьютерной томографии органов грудной клетки. Если в первый год сотрудничества 5 медицинских учреждений округа были подключены к платформе, то сегодня их уже 14. В 2024 году Москва и ЯНАО продолжат сотрудничество в целях исследования возможностей технологий компьютерного зрения для анализа медицинских изображений.