Недавно агентство опубликовало дискуссионный документ «Вопросы регулирования медицинских изделий на основе генеративного ИИ: дискуссионный документ и запрос на обратную связь» (Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback). В нем FDA фиксирует, что данные технологии создают «уникальные риски» и в то же время большие перспективы в части оказания медицинской помощи пациентам.
Одна из проблем заключается в том, что медизделия на основе генеративного ИИ обладают уникальными характеристиками, которые делают их более сложными для регулирования, чем другие типы программного обеспечения, включая классическое машинное обучение. Например, такие продукты могут принимать неограниченные входные данные, выполнять сразу несколько аналитических задач и выдавать изменчивые выходные данные. Также они несут высокий риск «галлюцинаций», которые кажутся подлинными. Наконец, для них сложнее определить границы предполагаемого использования или отслеживать реальный уровень производительности при эксплуатации.
В дискуссионном документе FDA изложил 3 основные концепции: систему оценки рисков для медизделий на основе генеративного ИИ, подход к предрыночной оценке, основанный на компетенциях, а также ряд идей для пострегистрационного мониторинга.
Система оценки рисков учитывает тип деятельности, при этом информационные, недирективные действия относятся к наименее рискованным типам ПО. Например, ИИ-системы для оценки рисков и прогнозирования будущих событий, связанных с сердечно-сосудистыми заболеваниями, даже в случае применения ими генеративного ИИ, могут быть отнесены к пониженному риску причинения вреда здоровью.
ИИ-решения, которые рекомендуют пациентам или врачам определенные действия, относятся к повышенному риску, а автономные ИИ-системы - к категории наивысшего риска.
В документе признается, что уровень риска может также зависеть от обстоятельств. Например, медизделие, которое автономно назначает антибиотики, может нести иной уровень риска, чем продукт для выполнения тромболитической терапии в рамках процесса лечения инсульта.
В рамках работы над тем, как оценивать медизделия с генеративным ИИ до их выхода на рынок, FDA предлагает подход, основанный на компетенциях. ИИ-решения будут подвергнуты сравнительной оценке, а затем протестированы в клинических условиях для оценки того, насколько окончательная, ориентированная на пользователя версия работает с точки зрения безопасности и эффективности.
Наконец, документом подчеркивается важность пострегистрационного мониторинга. Согласно документу, это должно стать обязанностью разработчиков медизделий, хотя врачи, медицинские учреждения, плательщики и другие органы власти также могут играть свою роль.
FDA подчеркивает, что рассматривает вопрос о целесообразности принятия «большей неопределенности на этапе до выхода на рынок» в отношении преимуществ и рисков медизделий с поддержкой генеративного ИИ за счет большей опоры на пострегистрационный мониторинг.
Источник: https://www.medtechdive.com/news/fda-seeks-feedback-on-generative-ai-regulations/828274/