Эксперты управления по контролю за продуктами и лекарствами США (The U.S. Food and Drug Administration, FDA) опубликовали в Jama специальное сообщение, в котором систематизировали взгляд на то, как FDA будет выстраивать регуляторику относительно применения технологий искусственного интеллекта в здравоохранении.
В настоящее время FDA является крупнейшим регулятором ИИ-решений в мире, выдав одобрение на вывод на рынок почти 1 тыс. различных медицинских изделий и ИИ-сервисов. При этом FDA находится в постоянном поиске баланса между интересами различных государственных органов, пациентов, медицинских организаций и бизнеса. Ключевой целью относительно ИИ FDA видит обеспечение безопасных, эффективных и надежных инструментов ИИ для улучшения жизни пациентов и врачей.
Руководитель FDA Роберт Калифф (Robert M. Califf, MD), старший клинический советник FDA Хайдер Варрайх (Haider J. Warraich, MD) и директор FDA по цифровому здравоохранению Трой Тазбаз (Troy Tazbaz, BS) сформулировали 10 ключевых принципов и направлений работы FDA в части технологий ИИ, которые были представлены в статье «Взгляд FDA на регулирование искусственного интеллекта в здравоохранении и биомедицине» (FDA Perspective on the Regulation of Artificial Intelligence in Health Care and Biomedicine).
Вот эти принципы и направления:
- Участие в глобальном регулировании ИИ, более активная роль в IMDRF, гармонизация подходов и стандартов с мировыми наработками
- Развитие полномочий и кадров в связи с ростом нагрузки на FDA в части ИИ. Требуется не просто сохранение достигнутых результатов, но их развитие, чтобы идти в ногу со временем. Например, необходимо развитие «Пилотной программы предварительной сертификации программного обеспечения» (Software Precertification Pilot Program) и более широкую оценку качества работы ИИ, в том числе за пределами FDA
- Развитие регулирования ИИ на все возможные сценарии применения, от встраивания моделей машинного обучения в устройства и до сервисов и пациентских приложений. Сейчас FDA в основном контролирует ИИ в системах поддержки принятия врачебных решений. Планируется расширить этот фокус.
- Развитие регуляторики относительно применения ИИ для создания лекарства и других медицинских изделий, начиная от создания молекул и вплоть до фармаконадзора. Применение ИИ для оценки данных реальной клинической практики (RWD)
- Введение специального регулирования больших языковых моделей (LLM) и генеративного ИИ, включая не только контроль качества моделей и продуктов, но и того контента, на котором они обучаются, а также особое регулирование из-за высоких рисков «галлюцинаций»
- Усиление контроля за ИИ-системами во время эксплуатации, развитие инструментов пострегистрационного мониторинга, выравнивание контроля на всех этапах жизненного цикла ИИ-решений, а не только этапа вывода на рынок
- Усиление ответственности разработчиков ИИ-решений, приближение регуляторики и требований относительно ответственности к тем стандартам и подходам, что сложились на рынке лекарств и обычных медицинских изделий
- Внедрение ИИ в управлении цепочками поставок лекарств и медицинских изделий, улучшение готовности к пандемиям или экономическим катаклизмам
- Выравнивание баланса контроля со стороны регулятора к крупному бизнесу, стартапам и малым компаниям, а также академическим кругам. Сейчас регуляторика FDA направлена скорее на малый бизнес, хотя в сфере ИИ технологические гиганты играют более существенную роль, оставаясь при этом вне фокуса регулятора. Это планируется исправить.
- Выравнивание баланса между стремлением разработчиков ИИ-решений к извлечению прибыли и потребностями медицинских организаций и системы здравоохранения в целом. Регулирование экономической целесообразности применения ИИ, смещение приоритета регуляторики ИИ от возврата инвестиций и окупаемости продуктов к пользе для пациентов и экономике здравоохранения
Источник: https://jamanetwork.com/journals/jama/fullarticle/2825146