О системах поддержки принятия врачебных решений
В настоящее время в Российской федерации осуществляется проработка национального проекта «Здравоохранение», включающего программу «Создание единого цифрового контура в сфере здравоохранения на основе ЕГИСЗ». Цели и мероприятия включают поэтапную трансформацию здравоохранения Российской Федерации, что полностью соответствует целям и задачам программы «Цифровая экономика», утвержденной распоряжением Правительства РФ №1632-р от 28 июля 2017 года. Согласно этому документу данные в цифровом виде являются ключевым фактором повышения эффективности производства во всех сферах социально-экономической деятельности, что является необходимым условием повышения конкурентоспособности страны, качества жизни граждан, обеспечения экономического роста и национального суверенитета.
Ключевым направлением цифрового здравоохранения является применение систем поддержки принятия врачебных решений (далее - СППВР), которые, в том числе, будут функционировать на основе медицинской информации в электронном виде, формируемой и обрабатываемой в ЕГИСЗ, государственных информационных системах в сфере здравоохранения субъектов Российской Федерации (ГИС СЗ) и медицинских информационных системах медицинских организаций (МИС МО).
СППВР – это информационная система, обеспечивающая путем сбора и анализа данных, в том числе, с использованием технологий искусственного интеллекта, информационное сопровождение врача при обследовании пациента, диагностике, назначении лечения с целью снижения возможности допущения врачебных ошибок и повышения качества оказываемой медицинской помощи, включая профилактику и поддержу здорового образа жизни.
Одним из наиболее важных аспектов развития СППВР является сложившаяся в настоящее время ситуация, когда практически любая такая система, в том числе и системы на основе искусственного интеллекта, классифицируются с точки зрения de jure как медицинское изделие. Согласно действующего законодательства требуется его государственная регистрация, включая проведение технических и клинических испытаний, а также проведение экспертизы качества, эффективности и безопасности. Остановимся на этом поподробнее.
Законодательство РФ о программном обеспечении как медицинском изделии
Применение медицинских изделий у нас в стране регулируется Федеральным законом от 21.11.2011 No 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» (http://base.garant.ru/57499516/). Статья 38 323-ФЗ гласит, что «Медицинскими изделиями являются любые инструменты, аппараты, приборы, оборудование, материалы и прочие изделия, применяемые в медицинских целях отдельно или в сочетании между собой, а также вместе с другими принадлежностями, необходимыми для применения указанных изделий по назначению, включая специальное программное обеспечение, и предназначенные производителем для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований, восстановления, замещения, изменения анатомической структуры или физиологических функций организма, предотвращения или прерывания беременности, функциональное назначение которых не реализуется путем фармакологического, иммунологического, генетического или метаболического воздействия на организм человека. Медицинские изделия могут признаваться взаимозаменяемыми, если они сравнимы по функциональному назначению, качественным и техническим характеристикам и способны заменить друг друга».
Исходя из этого следует, что программное обеспечение следует рассматривать как медицинское изделие (МИ), если оно используется:
- для управления медицинскими устройствами (МУ). В диагностике это регистрация и измерение физиологических параметров или биоматериала (invitro). В лечении это воздействие на организм человека, в том числе путем генерации и отображения изображений на экране компьютера, генерации звука и иных видов излучений и т.д.
- совместно с медицинскими устройствами - для приема и обработки сигналов (массивов данных), поступающих от МУ, их представления (визуализации, отображения, воспроизведения) медицинскому работнику в виде изображения, звукового потока или символов (чисел, текста и т.д.) и их документирования для последующего использования (в том числе включения в состав ЭМК). Сюда относится в том числе ПО, внешнее по отношению к МУ (может быть отдельным объектом разработки \ поставки), включая системы обработки и отображения медицинских изображений в диагностических целях (PACS), лабораторные информационные системы (ЛИС), а также системы дистанционного мониторинга пациентов.
- для хранения, обработки и передачи медицинских данных, в т.ч. документированных или вводимых врачом, или поступающих непосредственно от МУ. Формально к этому классу можно отнести очень широкий спектр ПО, включая системы ведения электронных медицинских карт (ЭМК) и медицинские информационные системы медицинских организаций (МИС МО), системы поддержки принятия врачебных решений (СППВР), а также решения на базе искусственного интеллекта, анализирующие различные медицинские данные и формирующие подсказки/предложения врачу по тактике обследования и лечения пациента, включая системы выявления патологий в медицинских изображениях, системы подбора лекарственной терапии и т.д.
В письме Росздравнадзора №01И-2358/15 от 30.12.2015 «О регистрации программного обеспечения» сказано, что ПО является медицинским изделием и подлежит государственной регистрации в Росздравнадзоре, если оно предназначено для:
- Управления работой оборудования и мониторинга за его функционированием,
- Получения от оборудования диагностических данных, их накопления и расчета в автоматическом режиме,
- Мониторинга функций организма человека и передачи полученных данных, в том числе посредством беспроводных технологий,
- Расчета параметров подбора дозы (облучения, лекарственного средства, рентгеноконтрастного вещества и т.д.),
- Для обработки данных, полученных с диагностического медицинского оборудования, передачи их на системы планирования и терапии,
- Обработки медицинских изображений, включая изменение его качества, цветового разрешения и т.д.,
- Для 3D-моделирования,
- Связи диагностического и лечебного оборудования,
- Для обработки цифровых изображений, в том числе с получением данных от диагностического оборудования в неизменном виде.
Таким образом, медицинские информационные системы, системы поддержки принятия врачебных решений и системы искусственного интеллекта классифицируются как медицинские изделия.
Государственная регистрация медицинского программного обеспечения
Обращение (включая разработку, экспертизу, применение, ввоз и вывоз с территории РФ и многое-многое другое) медицинских изделий осуществляется в порядке, установленном Постановлением Правительства РФ от 27.12.2012 г. №1416 «Об утверждении Правил государственной регистрации медицинских изделий», http://base.garant.ru/70291692/
Согласно этому нормативному документу, для применения медицинских изделий требуется пройти процедуру государственной регистрации. Результатом этой процедуры будет допуск на российской рынок программного обеспечения как медицинского изделия.
Порядок подачи заявлений и прохождения процедуры регистрации регулируется Приказом Министерства здравоохранения РФ от 14.10.2013 г. №737н «Об утверждении Административного регламента Федеральной службы по надзору в сфере здравоохранения по предоставлению государственной услуги по государственной регистрации медицинских изделий», http://base.garant.ru/70685768/
Порядок и правила классификации медицинских изделий, включая разделение на классы в зависимости от потенциального риска их применения и на виды в соответствии с номенклатурной классификацией медицинских изделий, регулируются Приказом Министерства здравоохранения РФ от 06 .06.2012 г. №4н «Об утверждении номенклатурной классификации медицинских изделий», http://base.garant.ru/70199586/
Все медицинские изделия в зависимости от потенциального риска применения подразделяются на 4 класса: 1 (низкая степень риска), 2а (средняя степень риска), 2б (повышенная степень риска) и 3 (высокая степень риска).
Порядок государственной регистрации подразумевает проведение технических и токсикологических испытаний с целью доказательства безопасности, а также клинических испытаний с целью доказательства эффективности. Регистрация медицинских изделий осуществляется в 2 этапа:
- Вначале производитель проводит ряд технических и токсикологических испытаний, оформляет необходимую документацию, включая заявление и подает пакет документов на рассмотрение в Росздравнадзор
- Эксперты ведомства рассматривают документы и выносят решение о необходимости и возможности проведения клинических испытаний. Если решение положительное – то процедура регистрации приостанавливается и производитель проводит клинические испытания.
- После их завершения производитель подает заявление о возобновлении регистрации, процедура возобновляется.
Согласно Постановления Правительства РФ от 31 мая 2018 года №633 «Об изменениях в порядке государственной регистрации медицинских изделий» в правила государственной регистрации медицинских изделий внесены изменения, направленные на сокращение сроков процедуры их государственной регистрации. В частности, срок госрегистрации медизделий для диагностики in vitro и медизделий 1-го (низкого) класса потенциального риска применения сокращён на 20 рабочих дней за счёт проведения экспертизы качества, эффективности и безопасности в один этап без необходимости получения разрешения на проведение клинических испытаний.
Сведения о медицинских изделиях, зарегистрированных в установленном порядке на территории Российской Федерации, размещаются в «Государственном реестре медицинских изделий и организаций (индивидуальных предпринимателей), осуществляющих производство и изготовление медицинских изделий» (далее – государственном реестре). Он доступен на сайте Федеральной службы по надзору в сфере здравоохранения (Росздравнадзор) по адресу http://www.roszdravnadzor.ru/services/misearch
Обращение, в том числе применение медицинских изделий, сведения о которых отсутствуют в государственном реестре, на территории Российской Федерации запрещено.
В случае, если какая-то медицинская организация или орган управления здравоохранением (ОУЗ) будут применять программное обеспечение, относящееся к медицинским изделиям, но не имеющее государственной регистрации – то руководители таких организаций могут быть привлечены к административной ответственности по статьям 6.28 и 6.33 «Кодекса об административных правонарушениях». За выявление такого факта может быть наложен административный штраф на граждан — от 2 тыс. до 4 тыс. руб.; на должностных лиц — от 5 тыс. до 10 тыс. руб.; на юридических лиц — от 30 тыс. до 50 тыс. руб.
Если же применение незарегистрированного медицинского изделия содержит признаки уголовного наказуемого деяния – ответственность может наступить по статье 238.1 «Уголовного кодекса».
Порядок проверки безопасности применяемых медизделий (а значит – и используемого программного обеспечения, включая МИС, СППВР и ряд других медицинских информационных систем) регулируется приказом Минздрава от 14.09.2012 № 175н «Об утверждении Порядка осуществления мониторинга безопасности медицинских изделий», http://base.garant.ru/70293348/ . Порядок информирования о таких проверках регулируется приказом Минздрава от 20.06.2012 № 12н. «Об утверждении Порядка сообщения субъектами обращения медицинских изделий обо всех случаях выявления побочных действий, не указанных в инструкции по применению или руководстве по эксплуатации медицинского изделия, о нежелательных реакциях при его применении, об особенностях взаимодействия медицинских изделий между собой, о фактах и об обстоятельствах, создающих угрозу жизни и здоровью граждан и медицинских работников при применении и эксплуатации медицинских изделий», http://base.garant.ru/70206196/
Обратим внимание, что наша страна подписала «Правила регистрации и экспертизы безопасности, качества и эффективности медицинских изделий», утвержденные Решением Совета Евразийской экономической комиссии от 12.02.2016 № 46 и вступившие в силу, http://www.roszdravnadzor.ru/medproducts/registrationEAEU/documents/44498. Согласно них, до 31.12.2021 на территориях стран-членов действуют параллельно 2 системы регистрации: национальная и ЕАЭК. Начиная с 01.01.2022 г. регистрация должна будет проводится только по единым правилам ЕАЭК.
Процедура государственной регистрации является непростой, особенно нас волнует вопрос ее длительности и стоимости. По нашей информации для того, чтобы зарегистрировать медицинскую информационную систему, потребуется от 1 до 1,5 лет времени, а стоимость такой работы может составлять свыше 1 млн. руб.
Обзор зарубежного опыта
Безусловно, вопросы законодательного регулирования и поиска баланса между интересами защиты прав и безопасности пациентов и интересами рынка и разработчиков таких решений, возникли не только в нашей стране. И в Евросоюзе, и в США уже не первый год осуществляется государственное регулирование и контроль программного обеспечения как медицинского изделия (Software as a Medical Device - SaMD), в том числе и систем поддержки принятия врачебных решений (ClinicalDecision Support Software – CDSS).
В США программное обеспечение, применяемое для автоматизации медицинской деятельности, проходит обязательную сертификацию и регистрацию:
- В Офисе Национального координатора по информационным технологиям в области здравоохранения (Office of the National Coordinator for Health Information Technology - ONC, https://www.healthit.gov/) на возможности интероперабельности и соответствие требованиям HIPAA-HITECH, включая требования по информационной безопасности
- В Управлении по контролю за продуктами и лекарствами США (Food & Drug Administration - FDA, https://www.fda.gov/) для оценки безопасности для здоровья пациента и медицинского персонала (при необходимости).
FDA уже более 10 лет на практике занимается вопросами экспертизы клинических систем. Считается, что первой СППВР, получившей разрешение FDA, является разработка RADLogics, помогающая врачам-радиологам быстрее анализировать цифровые изображения из PACS-систем и формировать протоколы обследования. На своем сайте FDA открыло целый раздел нормативных документов и рекомендаций, относящихся к цифровому здравоохранению - https://www.fda.gov/MedicalDevices/DigitalHealth/ucm562577.htm. В прошлом году FDA опубликовало долгожданный проект документа «Clinical and Patient Decision Support Software. Draft Guidance for Industry and Food and Drug Administration Staff», доступный по адресу https://www.fda.gov/downloads/medicaldevices/deviceregulationandguidance/guidancedocuments/ucm587819.pdf. В нем регулятор подробно рассмотрел и пояснил свою позицию по отношению к экспертным системам и решениям на базе искусственного интеллекта (хотя и старательно избежал этот термин, отдав предпочтение слову «алгоритм»). За прошедшее время множество систем искусственного интеллекта для медицины и экспертных систем получили заветный сертификат FDA.
Упрощенный подход по регистрации медицинского программного обеспечения реализуется Агентством по контролю качества лекарственных средств и медицинской продукции Великобритании (Medicines & Healthcare products Regulatory Agency, MHRA – аналог нашего Росздравнадзора), которое разработало и открыто опубликовало еще в 2014 г. практические рекомендации и директивы, которым должны следовать все разработчики алгоритмов и приложений для сферы здравоохранения. Документ доступен по адресу https://www.gov.uk/government/publications/medical-devices-software-applications-apps
Предложенный регулятором подход позволяет зарегистрировать СППВР и программные продукты без необходимости слишком большой адаптации и затрат. Большая часть такого программного обеспечения отнесена в 1й, самый низкий класс опасности (их в Евросоюзе 4), подлежащий лишь незначительному регулированию. Разработчики вправе самостоятельно декларировать свои решения. От них требуется лишь заявить о себе и о том, что решение соответствуют перечню требований для получения сертификации. Для этого разработчику СППВР достаточно написать официальный отчет о программе и затем обратиться в уполномоченный орган для одобрения и сертификации. После проверки он получает маркировку на соответствие требованиям СЕ. Проведение затратных и длительных клинических исследований в обязательном порядке не требуется.
Международный форум регуляторов медицинских устройств (The International Medical Device Regulators Forum – IMDRF, http://www.imdrf.org/), включающий ведущих мировых участников, опубликовал в сентябре 2017 г. практическое руководство по клиническим исследованиям программного обеспечения, относящегося к медицинским изделиям (SaMD) - SaMD WG / N 41 Clinical Evaluation. Документ доступен по адресу http://www.imdrf.org/docs/imdrf/final/technical/imdrf-tech-170921-samd-n41-clinical-evaluation_1.pdf.
Несмотря на это, и в США, и в Европе идет постоянный открытый экспертный диалог об изменениях и своевременной коррекции государственной политики в части регулирования СППВР и систем искусственного интеллекта. Так, в начале 2018 г. исследовательская организация "Reform" из Великобритании в своем отчете «Thinking on its own: AI in the NHS», отметила, что, конечно, «… любое медицинское лечение происходит с элементом риска, но при этом нормативная база должна обеспечить приемлемый уровень риска в пропорциональном порядке, без подавления инновации».
О СППВР и решениях на базе искусственного интеллекта эксперты заявили, что они «… могут иногда отличаться от других видов медицинского программного обеспечения и устройств» и в конечном итоге признали, что в настоящее время такие продукты предоставляют врачу или пациенту лишь советы, но не выносят самостоятельное решение или интерпретацию данных, в отличие от ЛИС / PACS систем. Поэтому такие решения целесообразно относится к инструментам информационной поддержки решений, предоставляющим совет, а не выдачу клинических решений от лица врачей и, соответственно, иметь особое отношение к их экспертизе и регистрации как медицинского изделия. Для этого Reform рекомендовало национальной системе здравоохранения (NHS) создать специальную группу, целью которой станет разработка этических и правовых норм безопасного применения систем искусственного интеллекта. Эта нормы должна определять: какой тип испытаний должен быть выполнен для запуска продуктов и каким образом должен проводиться постоянный мониторинг алгоритмов их работы.
Наши предложения
В настоящее время Росздравнадзор утвердил «Методические рекомендации по порядку проведения экспертизы качества, эффективности и безопасности медицинских изделий в части программного обеспечения для государственной регистрации в рамках национальной системы», которые призваны оказать помощь заявителю при подготовке документов для государственной регистрации медицинского программного обеспечения.
Мы считаем, что экспертному сообществу совместно с Росздравнадзором и Министерством здравоохранения необходимо внимательно и вдумчиво проработать проблему государственной регистрации медицинского программного обеспечения для того, чтобы учесть ожидания рынка. В ходе этого диалога необходимо сформулировать и внести изменения в действующее законодательство, которые бы упростили и ускорили процедуры регистрации медицинского программного обеспечения, включая СППВР и систем искусственного интеллекта для здравоохранения. При этом считаем важным принять во внимание международные рекомендации IMDRF, а также синхронизировать изменения нашего законодательства вместе с наработками в рамках ЕврАзЭс.
Мы уверены, что без таких действий будет очень сложно ждать появление рынка отечественных решений в области цифрового здравоохранения, в особенности их массового внедрения в практическом звене.
Мы предлагаем детализировать и подробно разъяснить классификацию медицинского программного обеспечения в зависимости от потенциального риска причинения вреда здоровью пациентов. Представляется, что любое применяемое в медицине и здравоохранении программное обеспечение можно разделить на:
- Не требующее регистрации как медицинского изделия
- Требующее регистрации по упрощенной и укоренной процедуре без проведения клинических испытаний
- Требующее стандартной регистрации с проведением клинических испытаний
Если ПО не применяется в непосредственной врачебной практике – то такое ПО, пусть даже и имеющее отношение к медицине и здоровью, можно было бы разрешить без регистрации. К таким решениям мы предлагаем отнести различные программы и мобильные приложения для использования самими пациентами, приложения для фитнес-трекеров и поддержки здорового образа жизни и т.д. Не следует считать медизделием медицинские информационные системы и системы ведения электронных медицинских карт, которые по сути представляют из себя современные "интеллектуальные" пищущие машинки.
Если ПО применяется для принятия врачебных решений и прямо на него влияет, но используемые в нем алгоритмы обработки основаны на проведенных и уже открыто опубликованных методиках, стандартах или справочниках, которые были одобрены для применения в медицине – то регистрация такой программы как медицинского изделия по существующим правилам выглядит чрезмерной. Вероятность причинения вреда здоровью пациента или медицинского персонала является минимальной, поэтому их целесообразно относить к 1-му классу потенциального риска. Для таких программ целесообразно разработать упрощенную и ускоренную процедуру, основанную, например, на декларативном подходе и не требующую проведение клинических испытаний. К ним целесообразно отнести системы поддержки принятия врачебных решений, которые осуществляют подсказки по тактике обследования или ведения пациента или используют опубликованные клинические рекомендации, стандарты, нормативные документы и т.д.
Если в ПО используются алгоритмы обработки, созданные разработчиком программы или вообще полноценное неизвестные и неизученные, например в случае применения нейронных сетей и машинного обучения, то такие приложения действительно могут представлять некоторый риск применения и поэтому для них целесообразно проведение клинических исследований и соответствующую экспертную оценку. Однако, учитывая необходимость развития рынка таких решений и ускорение их разработки, внедрения и постоянного совершенствования, для таких программ целесообразно разработать особую процедуру клинических исследований, отличающуюся от аналогичных иследований лекарств или медицинских приборов.
При этом важно прописать, чтобы СППВР использовали существующую нормативную базу с учётом действующих порядков, стандартов и клинических рекомендаций, а также инструкций по применению лекарственных средств и медицинских изделий. Это повысит доверие к таким продуктам.
Также важно предусмотреть и нормативно урегулировать сбор сведений о нежелательных реакциях или иных неблагоприятных событиях, связанных с применением СППВР и систем на базе искусственного интеллекта – для того, чтобы в будущем иметь фактографические основания для корректировки и развития клинических рекомендаций и применяемых решений.
P.S. 25 сентября 2018 г. в Москве с участием Роздравнадзора прошел круглый стол «Регистрация программного обеспечения как медицинского изделия: проблемы и пути решения». Организаторами мероприятия выступили Ассоциация разработчиков и пользователей искусственного интеллекта в медицине «Национальная база медицинских знаний» совместно с Фондом «Сколково» и рабочей группой по совершенствованию законодательства и устранению административных барьеров в целях реализации «дорожной карты» Национальной технологической инициативы Нейронет. На нем состоялось обсуждение проблемы и были достигнуты договоренности провести ее проработку и предложить регулятору ряд инициатив, направленных на ее решение.