Нейросеть ChatGPT больше не будет давать медицинские и юридические советы? Пользователи констатируют изменения в поведении чат-бота.
Пользователи соцсети «Реддит» утверждают, что ChatGPT перестал отвечать на медицинские вопросы.
Искусственный интеллект теперь отвечает отказом и сообщает, что готов давать только общую информацию в образовательных целях — но без диагностики и советов, что делать. Нейросеть советует обратиться к врачу.
Из этого ряд наблюдателей сделали вывод: компания OpenAI («Оупен ЭйАй»), создавшая ChatGPT («Чат Джи Пи Ти»)
пересмотрела политику использования своей языковой модели и добавила в список запрещённых сценариев медицинские и юридически услуги. Заявляется, что чат-боту теперь нельзя анализировать результаты анализов, ставить диагнозы по фотографиям, назначать лечение и проводить аудит договоров.
Ряд пользователей изменения в поведении ИИ связывают с недавним случаем, произошедшим в США: мужчина-вегетарианец прочитал о негативном влиянии на здоровье поваренной соли — хлорида натрия — и спросил у нейросети, чем ее заменить. ChatGPT предложил ему бромид натрия, который нельзя употреблять в пищу.
В итоге мужчина попал в психиатрический стационар после того, как по совету искусственного интеллекта три месяца употреблял бромид и получил отравление, вызвавшее психоз.
(см. об этом — https://vk.com/wall-136637198_220858 ).
Но пользователи «Реддит» вспоминают и те случаи, когда нейросеть определяла верный диагноз быстрее, чем врачи.
Известно, что ChatGPT достигал высокой надежности от 92,22% до 97,78% при ответе на распространенные вопросы пациентов о таком кожном заболевании как розацеа. Кроме того, ChatGPT превзошёл врачей-эндоскопистов в определении интервалов повторного скрининга и надзорной колоноскопии (обо всём этом — ниже, читайте пост до конца).
Некоторые пользователи в знак протеста отменяют подписки.
Высказано предположение, что скоро у OpenAI появится специальный тариф для клиник, в котором уже не будет ограничений, но пользоваться им смогут только люди с медицинским образованием и лицензией.
В блоге российской компании «Скиллбокс» сообщили о результатах тестирования работы ChatGPT: «В наших тестах языковая модель посоветовала лекарства от головной боли, предположила диагноз по фотографии и даже объяснила результаты анализов. Во всех трёх случаях нейросеть сначала советовала обратиться к врачу, а после уже начинала давать советы. Вероятно, обновлённые правила начали работать ещё не у всех пользователей».
В августе газета The Wall Street Journal писала, что нейросеть ChatGPT в последние годы стала чаще делать бредовые и ложные утверждения и постепенно «сводить с ума» пользователей. OpenAI заявила, что эта проблема встречается редко.
Несмотря на то, что пользователи интернета
изменения в поведении чат-бота связывают с возможными изменениями в политике создавшей его компании OpenAI — oфициальные представители последней утверждают, что ничего в этой сфере не менялось.
Как отмечает глава медицинского направления ИИ в OpenAI Каран Сингхал (Karan Singhal) со страниц социальной сети X, подобные заявления не имеют под собой основы: «ChatGPT никогда не был заменой профессиональным рекомендациям, но продолжит быть ресурсом, который помогает людям понимать юридическую и медицинскую информацию». По его словам, OpenAI не добавляла каких-либо новых условий в свою политику относительно предоставления чат-ботом юридических и медицинских советов.
Тем не менее, обновлённая 29 октября политика ChatGPT предусматривает запрет на использование чат-бота для получения индивидуальных рекомендаций, требующих наличия соответствующей лицензии, включая юридические и медицинские рекомендации — без привлечения лицензированного профессионала в соответствующей области. Впрочем, ранее подобные ограничения упоминались в политике ChatGPT в несколько иных формулировках, поэтому данные изменения нельзя назвать резкими. Пользователям запрещалось применять ChatGPT для активностей, которые могли бы значительно навредить безопасности или здоровью третьих лиц. Под это определение попадали индивидуальные советы в области финансов, медицины и юриспруденции. Их можно было применять только после одобрения со стороны профессионалов в соответствующих областях и с обязательным упоминанием о том, что они получены с использованием ИИ.
Следует знать, что существует созданный в России бот «Склифосовский GPT», который может определить болезнь по симптомам и дать рекомендации. Но анализировать рентгеновские снимки он тоже не позволяет, предлагая обратиться к специалисту.
Недавно стало известно про российский сервис LabIQ («Лаб Ай Кью») — это новая опция от проекта MedIQ («Мед Ай Кью»). Сервис LabIQ позволяет проверять анализы — правда, на платной основе — см. https://vk.com/wall-136637198_227432
Ранее в паблике «Доказательная медицина» было опубликовано:
Чат-бот ChatGPT помог поставить диагноз ребенку с синдромом фиксированного спинного мозга — с этой задачей не справились 17 американских врачей
Доктор Джесси Эренфельд, президент Американской медицинской ассоциации, считает что «подобно тому, как мы требуем доказательств того, что новые лекарства… безопасны и эффективны»,
мы должны требовать «доказательства безопасности и эффективности» применяемых в медицине компьютерных программ, работа которых основана на искусственном интеллекте (ИИ).
vk.com/wall-136637198_123864
Чат-бот с искусственным интеллектом (ChatGPT): применение при розацеа
ChatGPT (Чат Джи Пи Ти) в очередной раз показал: искусственный интеллект (ИИ) в медицине нужен. ChatGPT достигает высокой надежности от 92,22% до 97,78% при ответе на распространенные вопросы пациентов о розацеа.
vk.com/wall-136637198_155339
Чат-бот с искусственным интеллектом (ChatGPT) превзошёл врачей-эндоскопистов в определении интервалов повторного скрининга и надзорной колоноскопии.
vk.com/wall-136637198_160371
Впервые предположение, что компьютеры могут справляться с
диагностикой лучше людей, было высказано в 1990 в статье Уильяма Бакста, на тот момент врача неотложной помощи Калифорнийского ун-та в Сан-Диего. Бакст описал «искусственную нейронную сеть»…Такие
экспертные системы обучаются на своем опыте во многом так же, как
и люди, усваивая обратную связь от каждого удачного или неудачного
случая для повышения точности предположений. В следующем
исследовании…компьютер играючи победил группу
врачей при диагностике инфарктов у пациентов с болью в груди.
vk.com/wall-136637198_128256
ИИ-инструменты в работе врача. Врач Татьяна Румянцева. Видео от Doc2Doc.
vk.com/wall-136637198_176169
Истинные причины нам никто не скажет, но я думаю что это было сделано в интересах врачей, чтобы ИИ не оставил их без работы.
Из-за пары дебилов отменять такую полезную функцию было ни к чему. Наоборот, чем больше дебилов так попадёт в больницу, тем больше у врачей работы и меньше потом дебилов. Естественный отбор во всей красе. А сам ChatGPT всегда пишет, что он может ошибаться, нужно перепроверять всю информацию и стоит обратиться ко врачу.
Защиту от дураков придумать невозможно. Даде с ИИ. Глупость — мощнейшая штука. Запрет в данном случае — этакий вариант похвалы глупости.🙄
А откуда в США в свободной продаже бромид натрия?
И причем тут жипити и единичный случай дебила, если запрещать надо бромид натрия?
Меня всегда так забавляют эти советы «обратитесь к врачу», да я бы с радостью, но чат ГПТ в 90% случаев даже тяжелое заболевание вылечит с большей вероятностью, чем те врачи что у меня в местной поликлинике.
По такому же принципу человек может получить вредную рекомендацию от некомпетентного в этом вопросе друга/подруги/коллеги/родственника или даже просто в чатах на просторе интернета. Не думаю, что запрет как-то повлияет на ситуацию.
Мне чат расшифровал анализы и нашел мою проблему лучше, чем три (!) терапевта в частных клиниках