Вновь про искусственный интеллект (ИИ) — наше будущее
Немецкие учёные считают, что нужно что-то делать с предвзятым отношением пациентов к ИИ
Опубликована в журнале Nature Medicine
научная статья исследователей из Университета Вюрцбурга:
«Влияние предполагаемого участия ИИ на восприятие цифровых медицинских консультаций».
В оригинале:
Reis, M., Reis, F. & Kunde, W. Influence of believed AI involvement on the perception of digital medical advice. Nat Med (2024).
doi 10.1038/ s41591-024-03180-7
Пациенты предвзяты по отношению к ИИ. К такому выводу пришёл коллектив немецких исследователей после эксперимента, результаты которого опубликованы в вышеприведенной научной статье.
В эксперименте 2280 пациентам во время прохождения онлайн-консультации демонстрировали медицинские рекомендации, чье авторство маркировали следующими ярлыками: «ИИ», «врач-человек» или «врач-человек плюс ИИ».
Цитата из научной работы: «Мы исследовали, как маркировка идентичных медицинских рекомендаций, полученных от врача-человека или от чат-бота на основе ИИ, влияет на восприятие этой информации с точки зрения надежности, понятности и эмпатии».
Пациенты посчитали что те рекомендации, которые якобы были подготовлены реальным врачом (человеком), являются более эмпатичными и надежными, а также
продемонстрировали большее желание следовать «человеческим» рекомендациям нежели рекомендациям чат-бота.
Цитата: «Более того, участники указали на меньшую готовность следовать рекомендациям, когда были уверены, что данные рекомендации выработаны ИИ».
В реальности респондентам демонстрировали стандартные рекомендации, подготовленные врачом (человеком) с использованием рекомендаций ИИ.
Цитата: «Рекомендации «человека» были оценены как значительно более надежные, чем рекомендации «искусственного интеллекта».
Авторы работы отмечают:
«ИИ обладает огромным потенциалом в области медицины, например, при анализе медицинских изображений или исследования взаимодействия лекарственных средств. Недавние разработки в области больших языковых моделей (LLM) на основе ИИ привели к появлению множества дополнительных возможностей для здравоохранения. Одним из вариантов использования, который становится все более актуальным с точки зрения общества, является использование больших языковых моделей при обращении за медицинской консультацией. В этой сфере популярные LLM-приложения, такие как OpenAI ChatGPT, дают низкопороговый доступ к медицинской информации, по-видимому, без необходимости обращаться к специальной литературе или профессиональным врачам. Несмотря на то, что существуют серьезные опасения по поводу использования больших языковых моделей в здравоохранении, более ранние исследования показывают, что ChatGPT 4.0 уже обеспечивает диагностическую точность на уровне обычных врачей. В другом исследовании врачи (не знающие о том, кто создал эти рекомендации) даже оценили ответы, сгенерированные большой языковой моделью в ответ на медицинские запросы, как более качественные и эмпатичные, чем ответы, сгенерированные обычными врачами».
(Ayers, J. W. et al. Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum. JAMA Intern. Med. 183, 589–596 (2023).
В заключительной части абстракта авторы пишут:
«Наши результаты указывают на предвзятость в отношении ИИ при получении цифровых медицинских рекомендаций, даже когда ИИ предположительно находится под контролем врачей. Учитывая огромный потенциал ИИ для медицины, выяснение способов противодействия этой предвзятости должно стать важной целью будущих исследований.»
Ранее в паблике «Доказательная медицина» было опубликовано:
Перспективы медицины: рутинизация врачебных манипуляций, узкая специализация и искусственный интеллект.
Отрывок из книги американского хирурга Атула Гаванде «Тяжелый случай. Записки хирурга».
Впервые предположение, что компьютеры могут справляться с
диагностикой лучше людей, было высказано в 1990 в статье Уильяма Бакста, на тот момент врача неотложной помощи Калифорнийского ун-та в Сан-Диего. Бакст описал «искусственную нейронную сеть»…Такие
экспертные системы обучаются на своем опыте во многом так же, как
и люди, усваивая обратную связь от каждого удачного или неудачного
случая для повышения точности предположений. В следующем
исследовании…компьютер играючи победил группу
врачей при диагностике инфарктов у пациентов с болью в груди.
https://vk.com/wall-136637198_128256
Чат-бот ChatGPT помог поставить диагноз ребенку с синдромом фиксированного спинного мозга — с этой задачей не справились 17 американских врачей
Доктор Джесси Эренфельд, президент Американской медицинской ассоциации, считает что «подобно тому, как мы требуем доказательств того, что новые лекарства… безопасны и эффективны»,
мы должны требовать «доказательства безопасности и эффективности» применяемых в медицине компьютерных программ, работа которых основана на искусственном интеллекте (ИИ).
https://vk.com/wall-136637198_123864
Чат-бот с искусственным интеллектом (ChatGPT): применение при розацеа
ChatGPT (Чат Джи Пи Ти) в очередной раз показал: искусственный интеллект (ИИ) в медицине нужен. ChatGPT достигает высокой надежности от 92,22% до 97,78% при ответе на распространенные вопросы пациентов о розацеа.
https://vk.com/wall-136637198_155339
Чат-бот с искусственным интеллектом (ChatGPT) превзошёл врачей-эндоскопистов в определении интервалов повторного скрининга и надзорной колоноскопии.
https://vk.com/wall-136637198_160371






Повезло пациентам с врачами, мне так наоборот рекомендации ИИ будут предпочтительнее.
Что то от врачей совершенно другие данные и много моментов как ИИ лажает раз за разом.
Наше будущее???!!
Мдааа. Скоро по прогнозам более 50% должностей заменит ИИ. А теперь у кого мозг остался напрягите его, КУДА деваться людям будет!?
Я подскажу, их станет гораздо меньшее скоро. Сейчас в мире запущен механизм итилизации глупых, тупых и бесполезных людей. Способы? Да вам каждый день о них внушает дуроскоп со стены…
Если ИИ грамотно и качественно обучили, я бы предпочла его: отсутствуют недостатки человеческого фактора типа забывчивости, ошибочности, субъективного подхода к пациенту (понравился или нет) и прочее.