21 октября 2024

10 принципов FDA относительно регулирования ИИ в здравоохранении

252

Гусев Александр,
Директор по развитию бизнеса

Эксперты управления по контролю за продуктами и лекарствами США (The U.S. Food and Drug Administration, FDA) опубликовали в Jama специальное сообщение, в котором систематизировали взгляд на то, как FDA будет выстраивать регуляторику относительно применения технологий искусственного интеллекта в здравоохранении.

В настоящее время FDA является крупнейшим регулятором ИИ-решений в мире, выдав одобрение на вывод на рынок почти 1 тыс. различных медицинских изделий и ИИ-сервисов. При этом FDA находится в постоянном поиске баланса между интересами различных государственных органов, пациентов, медицинских организаций и бизнеса. Ключевой целью относительно ИИ FDA видит обеспечение безопасных, эффективных и надежных инструментов ИИ для улучшения жизни пациентов и врачей.

Руководитель FDA Роберт Калифф (Robert M. Califf, MD), старший клинический советник FDA Хайдер Варрайх (Haider J. Warraich, MD) и директор FDA по цифровому здравоохранению Трой Тазбаз (Troy Tazbaz, BS) сформулировали 10 ключевых принципов и направлений работы FDA в части технологий ИИ, которые были представлены в статье «Взгляд FDA на регулирование искусственного интеллекта в здравоохранении и биомедицине» (FDA Perspective on the Regulation of Artificial Intelligence in Health Care and Biomedicine).

Вот эти принципы и направления:

  1. Участие в глобальном регулировании ИИ, более активная роль в IMDRF, гармонизация подходов и стандартов с мировыми наработками
  2. Развитие полномочий и кадров в связи с ростом нагрузки на FDA в части ИИ. Требуется не просто сохранение достигнутых результатов, но их развитие, чтобы идти в ногу со временем. Например, необходимо развитие «Пилотной программы предварительной сертификации программного обеспечения» (Software Precertification Pilot Program) и более широкую оценку качества работы ИИ, в том числе за пределами FDA
  3. Развитие регулирования ИИ на все возможные сценарии применения, от встраивания моделей машинного обучения в устройства и до сервисов и пациентских приложений. Сейчас FDA в основном контролирует ИИ в системах поддержки принятия врачебных решений. Планируется расширить этот фокус.
  4. Развитие регуляторики относительно применения ИИ для создания лекарства и других медицинских изделий, начиная от создания молекул и вплоть до фармаконадзора. Применение ИИ для оценки данных реальной клинической практики (RWD)
  5. Введение специального регулирования больших языковых моделей (LLM) и генеративного ИИ, включая не только контроль качества моделей и продуктов, но и того контента, на котором они обучаются, а также особое регулирование из-за высоких рисков «галлюцинаций»
  6. Усиление контроля за ИИ-системами во время эксплуатации, развитие инструментов пострегистрационного мониторинга, выравнивание контроля на всех этапах жизненного цикла ИИ-решений, а не только этапа вывода на рынок
  7. Усиление ответственности разработчиков ИИ-решений, приближение регуляторики и требований относительно ответственности к тем стандартам и подходам, что сложились на рынке лекарств и обычных медицинских изделий
  8. Внедрение ИИ в управлении цепочками поставок лекарств и медицинских изделий, улучшение готовности к пандемиям или экономическим катаклизмам
  9. Выравнивание баланса контроля со стороны регулятора к крупному бизнесу, стартапам и малым компаниям, а также академическим кругам. Сейчас регуляторика FDA направлена скорее на малый бизнес, хотя в сфере ИИ технологические гиганты играют более существенную роль, оставаясь при этом вне фокуса регулятора. Это планируется исправить.
  10. Выравнивание баланса между стремлением разработчиков ИИ-решений к извлечению прибыли и потребностями медицинских организаций и системы здравоохранения в целом. Регулирование экономической целесообразности применения ИИ, смещение приоритета регуляторики ИИ от возврата инвестиций и окупаемости продуктов к пользе для пациентов и экономике здравоохранения

Источник: https://jamanetwork.com/journals/jama/fullarticle/2825146

 

 

Пожалуйста, оцените эту статью
( 4 из 5,
оценили: 3)
Ваша оценка: Не ставилась

Подпишитесь на нашу рассылку

Хотите получать интересную и полезную информацию о цифровом здравоохранении и искусственном интеллекте для медицины?
Включайтесь в нашу рассылку!

Мы рекомендуем

Стандарты для создания систем искусственного интеллекта для здравоохранения

Просмотров 1 653 1 неделя, 4 дня назад

Большие языковые модели (LLM) в здравоохранении

Просмотров 304 1 неделя, 6 дней назад

10 принципов FDA относительно регулирования ИИ в здравоохранении

Просмотров 252 2 недели, 6 дней назад

Роль искусственного интеллекта в стратификации рисков в здравоохранении

Просмотров 752 4 месяца назад

Присоединяйтесь

Наши группы в соц сетях