Когда пациент думает, что говорит с ИИ: почему описание симптомов становится менее точным

Пациент хуже описывает симптомы болезни, если считает, что общается с ИИ, а не с врачом. К таким выводам пришли исследователи из Института психологии, Вюрцбургского университета (Германия). Статья с результатами опубликована в журнале Nature Health.

Исследование показало, что сообщения участников, которые думали, что пишут врачу, были более подробными и содержали больше символов. При общении с ИИ люди, наоборот, описывали симптомы короче и менее детально. Авторы пришли к выводу, что если пациенты изменяют описание своих симптомов при общении с чат-ботом, пригодность этой информации может снизиться.

Как проходило исследование

Авторы исследования провели онлайн-эксперимент с выборкой в 500 человек из Великобритании. Участникам предложили описать симптомы двух распространённых заболеваний — головной боли и гриппа, предупредив при этом, что отчёт получит либо чат-бот, либо врач. Далее участников распределили в случайном порядке в одну из двух групп и попросили описать оба заболевания одному и тому же предполагаемому получателю.

В конце эксперимента исследователи проверили полученные описания симптомов и оценили пригодность данных по шкале от 1 до 5: чем выше балл, тем легче по отчёту можно определить срочность необходимого лечения. Оценки выставлялись с помощью LLM-рейтингов, которые затем подтверждались врачами соответствующих специальностей. Оценщики не знали, к какой группе относился каждый отчёт.

Выяснилось, что отчёты о симптомах, адресованные, по мнению участников, ИИ-боту, на 8% меньше подходили для первичного определения срочности лечения, чем отчёты, предназначенные настоящему врачу.

Для проверки результатов исследователи выбрали 200 случайных отчётов по каждому заболеванию и получили дополнительные оценки от двух неврологов для отчётов о головной боли и двух пульмонологов для отчётов о гриппе. Анализ повторили с оценками, сгенерированными другими LLM, включая DeepSeek R1 и несколько моделей GPT. Для каждого LLM оценки пригодности были значительно ниже для группы «ИИ» по сравнению с группой «врач». Самую высокую надёжность относительно экспертных оценок показала GPT-5.2.

Почему пациенты сокращают описание

Участники эксперимента адаптировали свой язык и поведение в зависимости от того, с кем они общаются: человеком или ИИ. Причины такого поведения напрямую не измерялись. Возможными объяснениями могут быть так называемое игнорирование уникальности: убеждение, что ИИ не может учитывать уникальные характеристики пользователя. А также предполагаемая непрозрачность решений ИИ, общее недоверие диагностическим возможностям алгоритма, опасения по поводу конфиденциальности или мнение, что часть информации для ИИ не нужна.

При этом, если представить медицинский ИИ способным давать персонализированные, а не общие ответы, готовность использовать такой инструмент повышается. Дополнительные объяснения о том, как ИИ принимает решения, улучшают принятие медицинского ИИ.

Подписывайтесь на наши каналы:

Телеграм-канал — https://t.me/med_center
ВКонтакте — https://vk.com/dirmedcenter
MAX — https://max.ru/channel_directormed

Когда пациент думает, что говорит с ИИ: почему описание симптомов становится менее точным

Как проходило исследование

Почему пациенты сокращают описание

Читайте также:

Доля безрезультатных вызовов скорой помощи в России за 15 лет выросла на 74,5%

Как ИИ изменит ОМС и медицину к 2036 году?

Ручной томограф от Smart Engines: перспективы применения