Российская медицина готовится к широкомасштабному внедрению искусственного интеллекта в повседневную практику. Минздрав подготовил проект трудовых функций, который впервые вводит для врачей обязанность работать с нейросетями, уметь правильно формулировать запросы к языковым моделям и проверять полученные данные. Хотя технологии призваны снизить нагрузку на медиков, вопрос ответственности за конечный диагноз остаётся критически важным: алгоритм может быть помощником, но не заменителем клинического мышления врача.
Фото: mos.ru by Без автора, https://creativecommons.org/licenses/by/4.0/
врачи
Новые правила игры: обязанности врача
Согласно новому документу, врачи 6-го уровня квалификации и выше, принимающие автономные решения, должны освоить 12 трудовых действий, касающихся профессионального использования систем поддержки принятия врачебных решений (СППВР).
Теперь диагностика, назначение терапии и оценка рисков могут проходить через фильтр нейросетей, что накладывает на специалистов дополнительные обязательства по проверке первоисточников.
Это особенно важно при анализе осложнённых случаев, где когнитивное развитие и опыт врача должны преобладать над машинными расчётами. Когнитивное развитие специалиста становится ключевым фактором безопасности пациента.
«Внедрение ИИ в медицину — это не только прогресс, но и новые вызовы для психики самих врачей. Важно, чтобы использование технологий не превращалось в механическое выполнение инструкций, так как это может привести к выгоранию и утрате врачебной интуиции», — отметила психолог Надежда Осипова в беседе с Pravda.Ru.
Ключевым моментом является информационная безопасность. При работе с ИИ вне закрытого контуров клиник, врачи обязаны полностью анонимизировать данные пациентов. Также медикам придётся четко различать сертифицированные медицинские изделия на базе ИИ (в России их уже 56) и обычные чат-боты, которые не предназначены для постановки диагнозов.
Ошибки, допущенные алгоритмами, должны фиксироваться и передаваться уполномоченным органам для предотвращения системных сбоев в лечении.
Риски нейросетей и «галлюцинации» алгоритмов
Основной риск работы с большими языковыми моделями заключается в так называемых «галлюцинациях», когда ИИ выдает ложные факты за правду. Если врач не способен критически оценивать ответ, это может привести к серьёзным последствиям. Качество «ответа» нейросети напрямую зависит от точности вопроса (промта).
Неправильно заданный параметр может спровоцировать алгоритм на логическую ошибку. В условиях стресса, испытываемого медикам, риск довериться неверным данным возрастает. Постоянное напряжение и необходимость перепроверять работу машины могут негативно сказаться на здоровье самого специалиста, требуя от него максимальной концентрации.
«Когда мы говорим о рисках, нельзя забывать о физическом состоянии врача. Если специалист страдает от недосыпания из-за перегрузок, его способность критически оценивать выводы нейросети снижается. В состоянии, напоминающем сонный паралич внимания, легко упустить критическую ошибку алгоритма», — объяснил врач-невролог Артём Синицын в беседе с Pravda.Ru.
Кроме того, врачи должны учитывать, на каких данных обучалась модель. Если выборка была нерепрезентативной, ИИ может выдавать искажённые результаты для определённых групп пациентов. Поэтому в проекте закреплено право врача отказаться от использования системы, если она вызывает сомнения в безопасности.
Некорректная работа алгоритмов в диагностике может косвенно повлиять на такие сферы, как здоровье ЖКТ, если ошибочные рекомендации приведут к неправильному назначению диет или медикаментов.
Цифровая реальность: готовность медицинского сообщества
Данные показывают, что врачи рассматривают ИИ прежде всего как инструмент для борьбы с рутиной. Автоматизация позволяет сократить время анализа истории болезни с получаса до нескольких секунд. Это освобождает время для более качественного взаимодействия с пациентом, в том числе для обсуждения образа жизни и питания.
Из-за этого врач может выделить больше времени на объяснение, почему употребление сладкого на голодный желудок вредно, вместо бесконечного заполнения форм. Однако доверие к точности алгоритмов остаётся низким — его выразили менее трети опрошенных.
«Внедрение ИИ в диагностику заболеваний, связанных с обменом веществ, требует от врача понимания механизмов работы программы. Например, при выявлении рисков диабета ИИ может учитывать сотни факторов, но только эндокринолог сможет оценить, насколько эти данные соответствуют реальному состоянию гормонального фона пациента», — отметила врач-эндокринолог Екатерина Орлова в беседе с Pravda.Ru.
Парадокс заключается в том, что несмотря на высокую готовность использовать ИИ, лишь пятая часть медиков прошла специальное обучение. Без необходимых навыков верификации нейросеть может стать источником юридических рисков.
Внедрение новых функций призвано легализовать использование ИИ и создать единый стандарт обучения, чтобы врач, не умеющий «общаться» с машиной, не оказался за бортом профессии в ближайшем будущем. При этом важно помнить, что ИИ не может испытывать феномен ответственности — она полностью лежит на человеке в белом халате.
| Обязанности врача при работе с ИИ | Практическое значение |
|---|---|
| Структурирование запросов | Снижение риска «галлюцинаций» и логических ошибок ИИ |
| Верификация первоисточников | Проверка ответов нейросети на соответствие клиническим рекомендациям |
| Обезличивание данных | Защита персональной информации пациентов при использовании внешних систем |
| Право на отказ от ИИ | Сохранение приоритета клинического мышления врача над алгоритмом |
Ответы на популярные вопросы об использовании ИИ в медицине
Сможет ли нейросеть самостоятельно ставить диагноз?
Нет, согласно проекту Минздрава, ИИ является всего лишь системой поддержки принятия решений. Ответственность за окончательный диагноз и схему лечения полностью сохраняется за врачом.
Будут ли все врачи обязаны использовать ИИ в работе?
Проект вводит трудовые действия для специалистов 6-го уровня квалификации и выше. Однако врач имеет право отказаться от использования конкретной системы, если сомневается в её безопасности или достоверности.
Как пациенты защищены от утечки данных при использовании ИИ?
Врач обязан проводить деперсонализацию (обезличивание) любой информации о пациенте перед её загрузкой в системы, находящиеся вне защищенного контура медицинской организации.
Чему именно будут учить врачей в рамках новых стандартов?
Медиков обучат грамотному составлению запросов, критическому анализу выводов нейросетей, проверке логических взаимосвязей и работе с официально зарегистрированными медицинскими изделиями на базе ИИ.