Искусственный интеллект в белом халате: возможности, ограничения и этика применения ИИ в медицине

Категории

Светлана Крискевич

21 октября 2025
10 мин
97

Будущее медицины наступило: искусственный интеллект уже стал частью повседневной практики врача. О том, что сегодня умеет «ИИ в белом халате», в чем его преимущества и ограничения, рассказывает Александр Гусев, директор по развитию бизнеса компании «К‑Скай» (разработчик платформы Webiomed), штатный эксперт по искусственному интеллекту Центрального НИИ организации и информатизации Минздрава России и автор множества научных публикаций по ИИ в медицине.

Webiomed Гусев Александр Владимирович

Директор по развитию

ИИ в медицине: взгляд специалиста

На первый взгляд, искусственный интеллект пока воспринимается как “игрушка”, которой не место в столь серьезной сфере, как медицина. Может быть, когда-нибудь, но уж точно не сейчас... Так ли это, по вашему профессиональному мнению?

Александр Гусев: С моей точки зрения, главная цель применения ИИ в медицине – улучшение качества медицинской помощи. Непринятие новой технологии, в широком смысле, объясняется консервативностью медицины в целом.

ИИ будет интегрироваться в инструменты и платформы, которые облегчают непосредственное взаимодействие врача и пациента. Но при этом, конечно, нужен комплекс мер: независимая валидация ИИ-продуктов, пострегистрационный мониторинг, увеличение числа научных исследований в сфере безопасности и эффективности ИИ-продуктов, в том числе – публикаций в качественной рецензируемой научной литературе.

Проблему доверия, на мой взгляд, должны решать сами разработчики в тесном сотрудничестве с научно-исследовательскими институтами и экспертами, в том числе, со стороны надзорных органов и регулятора.

Работа эта сложная и длительная, но обязательная – если мы действительно хотим, чтобы ИИ-решения применялись в реальной клинической практике.

Что ждет нас завтра?

Доверяют ли искусственному интеллекту врачи? Как они используют ИИ сегодня, и какие перспективы на ближайшие 5 лет?

Александр Гусев:

Ни один врач не сможет сегодня обойтись без применения каких-либо цифровых технологий в своей работе. ИИ применяется в самых разнообразных задачах: от повышения эффективности диагностики и систем поддержки врачебных решений до управленческой аналитики на основе данных и т.д.

Думаю, в ближайшие 3-5 лет мы начнем применять автономные ИИ-решения («агентный» ИИ) не только внутри лечебно-диагностических процессов, но за пределами медицинской организации – в качестве персональных медицинских помощников для пациентов.

Медицинская помощь в ближайшие 5-10 лет будет не начинаться, а заканчиваться визитом в клинику – лишь для того вида помощи, который ваш гаджет или мобильное приложение ещё пока не может сделать. Здесь мы увидим значительный прорыв, особенно благодаря развитию генеративного ИИ и больших языковых моделей.

Больше чем врач?

Поговорим об особых «талантах» ИИ: когда он способен на большее, чем даже самый внимательный и квалифицированный врач?

ИИ уже сейчас превосходно справляется с анализом огромных объемов данных. Он способен обрабатывать данные о жизненно важных показателях в режиме реального времени, выявлять критические изменения в показателях здоровья (вплоть до реакции на определенные лекарства), генетическую предрасположенность к определённым заболеваниям, а также оповещать врачей о любых отклонениях от нормы, что позволит предотвратить серьезные осложнения.

Таким образом, мы видим главным применением передачу ИИ-решениям множества рутинных задач по анализу медицинских данных. На сегодня ИИ делает это быстрее, точнее и самое главное – дешевле, чем врачи.

ИИ и прогнозирование эпидемий и заболеваний

Как пандемия COVID повлияла на внедрение ИИ в медицину?

Александр Гусев:

До официального объявления пандемии разработчики ИИ почти не проявляли интереса к инфекционным заболеваниям. Но как только стала беспрецедентной ситуация с ростом заболеваемости и консолидацией всей системы здравоохранения на борьбу с COVID-19, разработчики ИИ сразу включились в этот процесс.

Появилось очень много различных решений, в том числе для автоматического выявления подозрений на ковид в анализе изображений компьютерной томографии.

При этом нужно отметить, что далеко не каждая такая разработка действительно привела к снижению заболеваемости или смертности от COVID-19.

Умеет ли уже сейчас искусственный интеллект делать прогнозы: пандемии, эпидемии, редкие или неизлечимые заболевания?

Александр Гусев:

Да, причем довольно точно, и в очень разнообразных прогнозах. ИИ умеет анализировать данные из различных источников: новости, социальные сети, поисковые запросы, данные о продажах лекарств, информацию о перемещениях людей, и даже данные о погоде.

Само собой, ИИ прекрасно извлекает данные и делает прогнозы на основе более традиционных источников информации – медицинских изображений, электронных медицинских карт, результатов лабораторной и функциональной диагностики и т.д.

Все это позволяет выявлять ранние признаки распространения инфекции, которые могут предшествовать официальным сообщениям.

Предикторы редких (орфанных) заболеваний также можно выявлять с помощью ИИ-технологии. Эти заболевания могут не иметь ярко выраженной симптоматики — они часто маскируются под другие заболевания. Это особенно страшно у детей, ведь многих последствий орфанных генетических заболеваний можно избежать, если вовремя поставить диагноз.

Интуиция врача и «бездушная машина»

А если интуиция врача, его многолетний опыт и эмпатия подсказывают одно, а «бездушная машина» советует другое? Как принимать решение в такой ситуации?

Александр Гусев:

Многолетний опыт врача – это не просто накопление знаний. Это способность мгновенно сопоставлять множество факторов: тончайшие нюансы в поведении пациента, его невербальные сигналы, неочевидные связи между симптомами, которые не всегда улавливаются формальными алгоритмами. Ведь врач видит не только болезнь, но и человека, страдающего от нее.

ИИ может быть ограничен в понимании редких, атипичных случаев, а также тогда, когда данные, на которых он обучался, не полностью отражают всю сложность человеческого организма и его реакций. Вместе с этим, справедливости ради, в таких редких или сложных случаях и врач-человек тоже показывает себя, как правило, хуже, чем в рутинных заболеваниях.

Поэтому – «бездушность» машины это не только, а может быть даже и не столько «минус», сколько «плюс». В обычных ситуациях и болезнях, коих подавляющее большинство, отсутствие усталости, раздражения или иных особенностей «человеческого фактора» позволяет ИИ-решениям делать анализ данных и формировать рекомендации более-менее одинаково и, что очень важно, часто точнее, чем врач.

Вместе с этим, мы не говорим о том, что врачи не нужны. Пока, на данном уровне развития технологий ИИ, конечно же, мы ведем речь об ИИ как о цифровом помощнике. И врачам, и пациентам целесообразно применять такие решения, но на рекомендации ИИ нужно смотреть как на заслуживающую внимания гипотезу, которую в случае сомнений нужно перепроверить.

Станет ли медицинская помощь дешевле?

Вспоминаются кликбейтные заголовки из желтой прессы интернета: «Возьмите копеечный аптечный…». Могут ли «большие данные» помочь найти дешевые (или даже бесплатные!) способы профилактики или лечения заболеваний?

В целом, в последнее время мы действительно наблюдаем, что внимание как регулятора (Минздрава), так и заказчиков и разработчиков ИИ-решений смещается скорее в сторону сокращения затрат на оказание медицинской помощи, чем повышения точности и скорости анализа данных. В числе прочего, это и сокращение стоимости и сроков разработки новых лекарств и вакцин, и ускорение принятия клинических и регуляторных решений.

И здесь, действительно, есть масса примеров, когда собранные большие данные и их анализ с помощью ИИ позволяют сформулировать гипотезы в части ускорения процессов профилактики, диагностики и даже лечения.

Однако в этом направлении мы еще только делаем первые шаги. Пока рано утверждать, что ИИ гарантировано удешевит оказание медицинской помощи.

Про ограничения, вред и риски

Каковы ограничения искусственного интеллекта, и в каких ситуациях его применение может принести больше вреда, чем пользы?

Александр Гусев:

Использование должно быть взвешенным и осознанным. Тут важно учитывать как этические, так и практические аспекты, чтобы минимизировать потенциальные риски и негативные последствия.

Во-первых, любые методы создания ИИ-решений имеют вероятностную природу, а это значит, что они не просто склонны делать ошибки, а гарантировано их делают.

Причины могут быть разные: где-то это некачественные данные, используемые в машинном обучении. Где-то – ошибки разработчиков. Где-то – аномалии среди заболеваний или состояния здоровья конкретных пациентов, да и просто редкие случаи, которые ИИ-алгоритм не видел ранее, и поэтому не знает, что с этим делать и какой ответ будет в данном случае правильным.

Во-вторых, активное внедрение ИИ-решений, даже очень высокого качества, создает неожиданные побочные эффекты.

Например, когда люди с психически расстройствами общаются с ChatGPT или аналогичными генеративными ИИ-моделями, такое общение может привести к усугублению проблем и даже суицидам. Еще один отрицательный момент – это некоторая утрата настороженности и самокритики у врачей, которые полностью полагаются на ИИ-помощников, и в этой связи просто отвыкают самостоятельно анализировать данные.

Но несмотря на все эти проблемы, мы уверены, что программное обеспечение с ИИ-технологиями займет важную нишу и найдет применение в цифровых сервисах отечественного здравоохранения.

Несомненно, уже в ближайшем будущем ИИ станет частью нашей жизни, в том числе и в поликлиниках и больницах. Но наверняка вместе с пользой он принесет и новые риски: кибербезопасность и утечка данных. Какую информацию могут украсть в клинике и как это предотвратить?

На самом деле, следует четко отделять проблемы кражи медицинских данных от факта внедрения ИИ-технологий. Тут никакой прямой связи нет.

Данные могут быть украдены, если разработчики и пользователи медицинских информационных систем нарушают требования информационной безопасности. Используют они при этом технологии ИИ или нет — по большому счёту никак не влияет на риски.

Также важно обратить внимание, что подавляющее большинство ИИ-систем для медицинских организаций не хранит и не обрабатывает персональные данные. Для ИИ не надо знать фамилию пациента или его номер полиса, ему вполне достаточно обезличенных данных.

Но тем не менее, и для ИИ решений угрозы информационной безопасности реальны. Некоторые злоумышленники научились дискредитировать работу ИИ-продуктов, формируя для них ложные запросы или интегрируя ложные случаи в обучающие наборы данных. С этим компании-разработчики борются постоянно. Для защиты от таких угроз компании внедряют многоуровневые стратегии информационной безопасности.

Этика и ИИ

Как врачу сообщить пациенту, что в принятии решений по его лечению принимает участие искусственный интеллект? Есть ли в этом сложности – недоверие, непонимание, предвзятость – по крайней мере в сегодняшней России?

Александр Гусев:

С точки зрения медицинской этики считается, что и врач, и пациент имеют право знать, используется ли ИИ-система при оказании медицинской помощи или формулировке рекомендаций. Как правило, добросовестные разработчики ИИ-решений явно предупреждают об этом в интерфейсах своих продуктов. Безусловно, если врач получил какую-то рекомендацию от ИИ-системы и передает ее пациенту – пациента об этом стоит информировать.