Медицинские ИИ-модели допускают серьезные клинические ошибки в 22% случаев
Исследователи из Стэнфордского* и Гарвардского университетов отмечают, что показатели вреда свидетельствуют о преждевременности вн…
- 6 мин
- 65
Рассмотрим основные преимущества и недостатки голосовых помощников.
- Эффективность алгоритмов для диагностики пока не доказана, несмотря на то, что чат-боты широко применяются во многих странах. Как вспомогательный инструмент они могут принести пользу, но пациенты не должны отказываться от визита к врачу после поверхностного диалога с ботом.
- Недостаток любых систем на базе ИИ — отсутствие гибкости и адаптивности. Они не наделены интуицией и четко следуют протоколу, но в некоторых ситуациях это, скорее, вредит. Так, эксперимент с алгоритмом GPT-3 показал, что бот может по ошибке давать вредные и даже опасные советы — например, подталкивать пациента к суициду.
- У виртуальных помощников нет эмпатии, они плохо воспринимают эмоциональную речь и действуют слишком формально. Поэтому любая клиника, которая внедряет бота, должна переключить пациента на оператора в случае, если человек ведет себя слишком эмоционально.
Конечно, голосовые ИИ-ассистенты будут совершенствоваться. Технологии голосового управления постепенно отходят от выполнения простых команд в сторону понимания текста и эмоций.