Росздравнадзор временно остановил применение медицинской системы — платформы с искусственным интеллектом для анализа медицинских…

Росздравнадзор временно остановил применение медицинской системы Botkin.AI — платформы с искусственным интеллектом для анализа медицинских изображений (КТ, маммограмм) на предмет злокачественных новообразований

Забегая вперёд, наш комментарий: надеемся это действительно временное решение, и разработчик выполнит «доводку» системы. Будущее за искусственным интеллектом. И надеемся, будут проведены исследования — сравнивающие эффективность врача-рентгенолога и данной ИИ-платформы при анализе медицинских изображений.
Росздравнадзор посчитал, что разработка, созданная за счет вложений пула венчурных фондов, в том числе «Росатома», и Минпромторга, может «причинить вред здоровью» пациентов.

Росздравнадзор приостановил применение получившей регистрационное удостоверение в 2020 году Botkin.AI https://botkin.ai/
— системы для анализа снимков с использованием ИИ — «в связи с угрозой причинения вреда жизни и здоровью граждан». Соответствующее письмо от 8 ноября издание “Коммерсант” обнаружил в реестре ведомства. В Росздравнадзоре сообщили, что сейчас проводится проверка производителя. В «Интеллоджик», разработчике Botkin.AI, на запрос журналистов не ответили.

Еще в начале ноября глава Росздравнадзора Алла Самойлова на форуме Novamed заявляла, что ведомство впервые приостановило обращение медизделия с ИИ из-за «отсутствия клинического эффекта и неоднократно выявленных дефектов функционирования». Тогда она не конкретизировала название продукта.

«Интеллоджик» на развитие проекта Botkin.AI в 2019 году привлек 100 млн руб. от ряда инвесторов, в том числе созданного при участии «Росатома» Digital Evolution Ventures, RBV Capital (фонда «Р-Фарм» и Российской венчурной компании), а в 2020 году — еще 160 млн руб., в том числе от «Ташир Медика» Самвела Карапетяна и «Юникорн Кэпитал Партнерс», управляющей компании венчурного фонда Минпромторга.

В «Юникорн Кэпитал Партнерс» пояснили, что «Интеллоджик» находится «в процессе технической реорганизации», чем и обусловлена приостановка действия регудостоверения. Там заявили, что какая-либо угроза причинения системой вреда жизни и здоровью граждан «полностью исключена».

Изделия с ИИ относятся к высокому, 3 классу риска, поэтому Росздравнадзор уделяет им такое пристальное внимание, поясняет гендиректор «Медлевелтеха» Михаил Виноградов. По его словам, по факту приостановка применения может длиться до устранения производителем всех замечаний регулятора.

Между тем еще в 2020 году «Интеллоджик» заявлял, что Botkin.AI интегрирована в созданную мэрией Москвы Единую радиологическую информсистему города для помощи в выявлении рака легких.
В департаменте здравоохранения Москвы (ДЗМ) заверили, что не используют Botkin.AI в столичных клиниках. Там добавили, что сегодня в рамках эксперимента работают свыше 50 ИИ-сервисов, выявляющих признаки патологий по 28 клиническим направлениям. В частности, ДЗМ использует систему по анализу медицинских изображений Celsus, платформы «Третье мнение», AIDiagnostic.

В Минздраве Тульской области, где Botkin.AI тестировалась в 3 медучреждениях, сообщили “Ъ”, что сейчас система не применяется.
«В ходе тестирования выявлен ряд недостатков, обратная связь передана разработчикам»,— сообщили в Минздраве региона.

В сети «Открытая клиника», по словам ее основателя Филиппа Мироновича, применение Botkin.AI «поставлено на паузу в ожидании разъяснения от разработчика».

Схожие продукты на основе ИИ, зарегистрированные Росздравнадзором, есть у «Третьего мнения», «Кэременторэйай» и «Сайберии». Гендиректор «Платформы Третье мнение» Анна Мещерякова, ссылаясь на данные госзакупок, говорит, что более 15 регионов с начала 2023 года уже закупили медизделия с ИИ для помощи в расшифровке компьютерной томографии органов грудной клетки, но среди поставленных систем нет Botkin.AI.

В медицине делаются только первые шаги для обучения ИИ, это самый сложный процесс с большим числом параметров для анализа, отмечает директор по работе с партнерами компании «Рекфэйсис» Ирина Остроухова. Для внедрения ИИ в практику нужны серьезные технические решения, к которым готовы далеко не все медучреждения, сказывается и дефицит кадров в этой области, добавляет гендиректор сервиса онлайн-расшифровки снимков «Честная медицина» Дмитрий Росляков. Михаил Виноградов основную проблему видит в том, что ИИ приходится учиться в том числе на снимках, где врач не выделил патологию, никак не прокомментировал данные и не подтвердил диагноз.
https://vk.cc/csxbvP

А теперь дадим слово разработчикам ИИ-продукта Botkin.AI — компании «Интеллоджик». Вот их публикация 2022 года — «Эксперимент: сможет ли искусственный интеллект найти рак там, где его уже пропустили врачи?»
Читайте:

На протяжении 5 лет наша команда Botkin.AI занимается созданием нейросетей для определения патологий на медицинских изображениях (КТ, маммограммы). Ключевая патология, с которой работает команда — онкология.

ЧАСТЬ 1.
Как проводили эксперимент?

Механика эксперимента простая:

Мы нашли трех героев, у которым не была выявлена онкология во время обследований. Два человека согласились рассказать свою историю открыто, третью мы публикуем анонимно.
Участники эксперимента предоставили медицинские изображения, полученные в ходе диагностики. Это одна маммограмма и два КТ изображения органов грудной клетки.
Каждый из снимков был обработан на платформе Botkin.AI. Изображения анализировались в автоматическом режиме с помощью искусственного интеллекта — 2-5 минут на каждый снимок.
Если нейросеть находила на снимках признаки ЗНО, эксперимент считался успешным.
Что значит “люди, у которых пропустили рак”?

Это пациенты, которым врачи-рентгенологи после обследования сообщали, что признаков злокачественных новообразований на сделанных снимках нет. Но при повторном обследовании через определенный промежуток времени медицинские специалисты обнаруживали онкологию. То есть было проведено не меньше 2 исследований в течение года, которые показали разные результаты.

— Мы решили провести этот эксперимент по двум причинам. Во-первых, чтобы проверить, насколько эффективны нейросети там, где медицинский специалист может допустить ошибку. Они действительно могут обнаружить рак на ранней стадии там, где человеческий глаз может его пропустить? И, во-вторых, чтобы показать, насколько важно модернизировать медицинскую систему, внедрять проверенные технологии.
(Олег Мельник, генеральный директор Botkin.AI.)

История 1: Татьяна Игнатович, Санкт-Петербург

Четыре года назад я нащупала у себя маленькое уплотнение в груди — буквально горошина. Я пошла в *** (крупный онкологический центр) к конкретному врачу по рекомендации знакомой. Все приемы платные, врач — кандидат наук, внушала доверие. На первом приеме она прощупала меня и сказала, что нет ничего страшного, посоветовала три месяца попить Омегу-3 и приходить на повторный прием. Так я ходила к ней в течение года: каждый прием заканчивался одинаково — «Пейте витамины и приходите через три месяца».

Через год врач обратила внимание, что образование выросло, отправила меня на маммограмму. Результаты исследования не понравились, и меня отправили брать пункцию. Позже я узнала, что пункцию берут только под контролем УЗИ — чтобы иголка попала точно в маленькую опухоль. Мне тогда сделали это без всякого УЗИ, буквально взяли материал на глаз из рандомного места. Ну и анализ ничего не выявил конечно, а врач сказала пить Омегу-3 и приходить через 3 месяца на повторный прием. Как я и сказала, я очень доверяла врачу, у меня не было причин сомневаться в корректности ее рекомендаций.

Как бы ужасно это не звучало, но меня спас тот факт, что у моей подруги в тот период нашли рак. И она настояла на том, чтобы я сходила к другому врачу провериться. Так я попала в другой онкоцентр, к другому рентгенологу и лечащему врачу.

Когда новый врач начала смотреть уже сделанные исследования, она буквально орала: «У вас же рак, да он у вас уже давно!». Она схватила мою карточку, которая пополнялась два года и показала мне: «Да вот же карцинома и на УЗИ, и на маммограммах!».

Меня сразу отправили на операцию, потом на облучение, повезло, что обошлось без химиотерапии. И дальше 5 лет пить тамоксифен, который буквально убивает все гормоны, все живое внутри меня. Думаю, не надо объяснять, что это значит для женщины. Через несколько лет пошли осложнения по женской части, была еще одна серьезная операция.

Через полгода придет время прекратить прием тамоксифена. Но беда в том, что после отмены препарата есть огромная вероятность появления метастазов. Мне уже сказала врач, что приходить проверяться придется каждый месяц. Это очень страшно: ехать на очередной прием и гадать, что покажет осмотр.

История 2: Герой попросил сохранить полную анонимность

За прошлый год я переболел ковидом дважды, при этом будучи привитым, вот так бывает. Первый раз прошел в довольно тяжелой форме, поэтому, начитавшись тревожных новостей о том, что COVID-19 «убьет» мои легкие, я пошел на КТ. Мне надо было просто посмотреть процент поражения, узнать, не развились ли там осложнения. КТ показало, что ничего критичного нет, получил рекомендации от врача и забыл.

Через месяц после этого вакцинировался «Спутником», а еще через 3 месяца снова заболел. В этот раз все прошло намного легче, но я все равно решил проверить легкие, так как у меня в анамнезе бронхит. И вот обследование показало, что у меня рак, первая стадия, опухоль около 2 сантиметров. Хоть я из города-миллионника, пришлось ехать в Москву, чтобы получить качественное лечение. Прошел через операцию, удалили опухоль и лимфатические узлы, потом облучение. Врачи сказали, что теперь мне всю жизнь придется проверяться 2 раза в год и серьезно следить за здоровьем.

Между двумя КТ не прошло и полгода, поэтому мне сейчас интересно, можно ли было увидеть что-то на первом снимке и начать лечение раньше. Но я считаю, что мне крупно повезло, врачи говорят, что рак легкого на первой стадии находят менее, чем в 10% случаев.

История 3: Кирилл Романов, 31 год, Красноярск

У меня обнаружили онкологию легкого больше 2 лет назад. Тогда из-за специфики работы (цементный завод) делал чекап каждый год на протяжении пяти лет. По легким все было чисто. И вот в последнюю такую проверку рентгенолог увидела признаки рака, отправили на дообследование. Скажу честно: я так испугался, так как знаю, через что проходят раковые больные — у меня мама от рака умерла. И мне потребовалось целых два месяца, чтобы взять себя в руки и пойти на обследование. До сих пор корю себя за то, что это время у себя украл! Но это все такой парализующий страх — не передать словами.

В общем у меня была опухоль второй стадии, близко к третьей. Вряд ли она так прогрессировала за 2 месяца, думаю, и на предыдущем снимке, за прошлый год, уже были видны признаки онкологии, а может и явно «светилась» первая-вторая стадия. Я хочу сказать, что лечусь до сих пор, так как у меня была и химия — выпали волосы, снизился иммунитет.

ЧАСТЬ 2 Эксперимент
Герои эксперимента поделились снимками своих исследований, которые затем были загружены на платформу для анализа изображений с помощью ИИ. Ниже подробный разбор каждого случая. Эксперимент проводился группой медицинской экспертизы Botkin.AI.
(Смотрите все прикрепленные иллюстрации — от трёх пациентов).

Выводы
Искусственный интеллект справился с поставленной задачей. Однако это не значит, что ИИ должен заменить врачей — такой вариант событий невозможен в обозримом будущем. Во-первых, случаются ложноположительные срабатывания. Поэтому все исследования, которые ИИ определил как подозрительные, отправляются на повторную проверку к врачам рентгенологам. Во-вторых, искусственный интеллект не ставит диагноз, не подбирает схему лечения, он «подсвечивают» врачу области, на которые стоит обратить внимание. В-третьих, нельзя опустить этический момент — пациенты не готовы доверить свою жизнь алгоритму, им по-прежнему нужно общение, сочувствие, понимание от живого человека.

Президент Российского общества рентгенологов и радиологов, д.м.н., профессор Валентин Евгеньевич Синицын, объясняет, что применение систем анализа изображений, построенных на искусственном интеллекте и машинном зрении, снижает частоту пропуска значимых находок в легких:

«Сегодня это выглядит как очень логичный путь улучшения диагностики болезней. Но есть несколько факторов, которые существенно тормозят внедрении ИИ.

Во-первых, нужна повсеместная цифровизация службы лучевой диагностики: создание больших компьютерных хранилищ данных и компьютерных сетей, в которых работают системы ИИ и к которым привязаны сотни и тысячи рабочих мест рентгенологов. Пока такой опыт имеется в Москве и еще в ряде городов и регионов России. Этого недостаточно.

Нужна, конечно, “история успеха” — например, стоит провести крупное многоцентровое российское исследование, которое бы убедительно доказало эффективность такого подхода в диагностике рака и других заболеваний легких.

— И еще один важный факт — применение систем ИИ должно быть комфортным для врачей, они должны сами убедиться, что ИИ — полезный помощник. Без принуждения. Это вопрос обучения, образования и опыта. Декларативные заявления о том, что уже сегодня ИИ в разы ускоряет и улучшает работу рентгенологов пока не очень совпадают с реальным отношением врачей к этим системам и первым опытом их использования. Впереди еще много работы в этом направлении».
Источник: https://vk.cc/csxcrX

Наш комментарий: разумеется нужны исследования с большим количеством пациентов.

Ранее в паблике «Доказательная медицина» было опубликовано:

Перспективы медицины: рутинизация врачебных манипуляций, узкая специализация и искусственный интеллект.
Отрывок из книги американского хирурга Атула Гаванде «Тяжелый случай. Записки хирурга».
Впервые предположение, что компьютеры могут справляться с
диагностикой лучше людей, было высказано в 1990 в статье Уильяма Бакста, на тот момент врача неотложной помощи Калифорнийского ун-та в Сан-Диего. Бакст описал «искусственную нейронную сеть»…Такие
экспертные системы обучаются на своем опыте во многом так же, как
и люди, усваивая обратную связь от каждого удачного или неудачного
случая для повышения точности предположений. В следующем
исследовании…компьютер играючи победил группу
врачей при диагностике инфарктов у пациентов с болью в груди.
https://vk.com/wall-136637198_128256

Чат-бот ChatGPT помог поставить диагноз ребенку с синдромом фиксированного спинного мозга — с этой задачей не справились 17 американских врачей
Доктор Джесси Эренфельд, президент Американской медицинской ассоциации, считает что «подобно тому, как мы требуем доказательств того, что новые лекарства… безопасны и эффективны»,
мы должны требовать «доказательства безопасности и эффективности» применяемых в медицине компьютерных программ, работа которых основана на искусственном интеллекте (ИИ).
https://vk.com/wall-136637198_123864