17 ноября 2026

Американские профессиональные медицинские сообщества потребовали вовлечь разработчиков генеративного ИИ в ответственность за правильность работы их решений

58

Гусев Александр,
Сооснователь, директор по развитию бизнеса

Американские больничные и врачебные организации призвали Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) возложить основную ответственность за безопасность и эффективность медицинских изделий на основе генеративного искусственного интеллекта (ИИ) на разработчиков и производителей технологий, а не на врачей и медицинские учреждения.

Свои замечания в FDA направили: Американская ассоциация больниц (AHA), Американская медицинская ассоциация (AMA), Американская ассоциация телемедицины и рабочая группа по электронному обмену медицинскими данными (WEDI). Обращения были подготовлены в ответ на запрос регулятора о возможных подходах к регулированию медицинских изделий на основе генеративного ИИ. Речь идёт о системах, которые используют генеративный ИИ, включая медицинские чат-боты и инструменты для обобщения медицинской информации.

Почему медицинские организации выступают против переноса ответственности на врачей

По мнению представителей медицинского сообщества, обязанность постоянно проверять работу ИИ создаст дополнительную нагрузку на клиники. Особенно сложной ситуация может оказаться для небольших медицинских учреждений и сельских практик, где не хватает сотрудников и технических ресурсов.

В обращениях к FDA подчёркивается несколько проблем:

  • Недостаточная прозрачность ИИ-алгоритмов. Медицинские учреждения часто не имеют полного доступа к информации о том, как устроена и обучена модель.
  • Сложность выявления ошибок. Врачам может быть трудно понять, почему система сформировала неверную рекомендацию.
  • Дополнительные юридические риски. Если ответственность за ошибки ИИ возложат на медицинские учреждения, это может увеличить риск исков о ненадлежащем оказании медицинской помощи.
  • Необходимость постоянного мониторинга. Разработчики должны отслеживать работоспособность своих продуктов, своевременно выявлять недостатки и поддерживать безопасность после внедрения. 

Какие изменения предлагаются

Американские профессиональные медицинские сообщества предлагают утвердить следующие подходы:

  • Ответственность разработчиков. Производители должны отвечать за постоянный контроль эффективности, обслуживание и целостность предлагаемых ими медицинских ИИ-систем. Клиники при этом сохраняют собственные обязанности по безопасному использованию технологий.
  • Оценка риска с учётом возможного вреда. AHA предлагает учитывать не только функции системы, но и вероятность ошибки и её последствия для пациента. Ошибка в справочной информации и ошибка при рекомендации экстренного лечения имеют разный уровень риска.
  • Переоценка роли человеческого контроля. AMA обращает внимание на то, что присутствие врача не гарантирует отсутствия ошибок: специалист может не заметить неверный ответ ИИ или чрезмерно довериться системе. Поэтому человеческий контроль не должен заменять доказательства безопасности и эффективности.
  • Маркировка и сообщения об инцидентах. WEDI предлагает создать механизм сообщения о нежелательных событиях и внедрить специальные информационные карточки для ИИ-инструментов. В них должны быть указаны назначение системы, ограничения и потенциальные риски.

Эти предложения изложены в комментариях медицинских организаций к документу FDA о регулировании генеративного ИИ в медицинских устройствах. 

Что это означает для рынка медицинского ИИ

Если FDA учтёт эти предложения, разработчикам придётся уделять больше внимания проверке качества своих продуктов не только перед выходом на рынок, но и на всем этапе применения ИИ-решений в условиях реальной клинической практики.

Это может повлиять на распределение расходов на мониторинг, требования к документации, договоры между производителями и клиниками, а также на ответственность сторон при возникновении ошибок.

При этом окончательные решения FDA по обсуждаемым вопросам на данный момент ещё не были известны. Регулятор планировал подготовить проект рекомендаций в последующие месяцы. 

Главные выводы для здравоохранения

Вопрос о более справедливой модели несения ответственности за работу ИИ является действительно очень актуальным и сложным. Сейчас, фактически, всю ответственность за ошибки ИИ и потенциальный вред здоровью пациента несет врач и медицинская организация. Однако эта ситуация может изменится уже в ближайшее время, как минимум в США. Вот основные тренды, которые возникают в ходе дискуссии между регулятором и медицинским сообществом:

  1. Разработчик должен отвечать за безопасность своего продукта. Недостаточно выпустить ИИ-систему и переложить все риски её использования на врача.
  2. Контроль со стороны человека необходим, но недостаточен. Нужны объективные испытания, подтверждение клинической эффективности и мониторинг после внедрения.
  3. Прозрачность становится условием доверия. Клиники должны понимать назначение системы, её ограничения и известные риски.
  4. Регулирование должно учитывать последствия ошибок. Чем серьёзнее потенциальный вред пациенту, тем строже должны быть требования к системе.

Основная позиция американских профессиональных объединений заключается в том, что безопасность ИИ должна подтверждаться самим производителем, а участие врача не может служить единственной гарантией надёжности технологии.

Источник: US hospital and doctor groups tell FDA that developers should own generative AI device safety, дата публикации: 24 октября 2026 года, https://www.worldhealth.ai/insights/us-hospital-and-doctor-groups-tell-fda-that-developers-should-own-generative-ai 

Пожалуйста, оцените эту статью
( 5 из 5,
оценили: 2)
Ваша оценка: Не ставилась

Подпишитесь на нашу рассылку

Хотите получать интересную и полезную информацию о цифровом здравоохранении и искусственном интеллекте для медицины?
Включайтесь в нашу рассылку!

Мы рекомендуем

Нормативно-правовое регулирование искусственного интеллекта в здравоохранении России

Просмотров 54 135 • 3 месяца, 3 недели назад

Epic встроила в электронную медкарту цифрового помощника на основе генеративного ИИ

Просмотров 1 847 • 8 месяцев, 3 недели назад

Новая книга Боба Вахтера о гигантском скачке искусственного интеллекта для здравоохранения

Просмотров 1 953 • 8 месяцев, 3 недели назад

Fine-Tuning vs RAG. Как борются с галлюцинациями LLM-моделей в здравоохранении

Просмотров 3 659 • 8 месяцев, 3 недели назад

Присоединяйтесь

Наши группы в соц сетях