Искусственный интеллект в медицине: риски использования

В исследовании Стефана Харрера, специалиста по этике ИИ, подробно рассказывается о больших языковых моделях (LLM  — Large Language Models): их преимуществах в управлении информацией (улучшение образования, коммуникаций, в том числе, в здравоохранении и медицине), но также поднимается и вопрос безопасности.

LLM являются ключевым компонентом генеративных приложений ИИ для создания нового контента. По запросу пользователю предоставляется текст, изображения, аудио, код и видео. Примеры самых популярных систем: OpenAI ChatGPT, чат-бот Google Med-PALM, генератор изображений Stability AI Stable Diffusion и бот Microsoft BioGPT.

LLM помогает в составлении медотчетов, упрощает обучение студентам-медикам, делает процессы поиска и разработки лекарств более эффективными. Однако, опасность их использования заключается в том, что такие системы могут авторитетно и убедительно создавать и распространять ложный, неуместный и опасный контент в больших масштабах. И чем меньше времени тратится на обучение LLM, тем опаснее может быть приложение.

Стефан Харрер предполагает, что увеличение размеров обучающих данных и создание все более сложных LLM не снизит риски, а, скорее, усилит их.

Харрер предсказывает, что позже нынешняя конкурентная гонка вооружений LLM перейдет к фазе более тонких и рискованных экспериментов с генеративными приложениями ИИ исследовательского уровня в здравоохранении, медицине и биотехнологии, которые предоставят первые коммерческие предложения продуктов для нишевых приложений в цифровой сфере в течение следующих двух лет.

Читайте также: