Принципы формирования доверия к системам искусственного интеллекта для здравоохранения

Абстракт

Внедрение технологий искусственного интеллекта (ИИ) является одним из ключевых направлений цифровой трансформации здравоохранения. Считается, что применение программного обеспечения на основе ИИ произведет революцию в здравоохранении, в т.ч. благодаря улучшению принятия клинических решений, анализу цифровых изображений, управлению рисками, прогнозированию и контролю правильности назначаемого лечения. Вместе с этим существует множество публикаций, констатирующих, что в настоящее время имеется серьезная проблема недостаточности данных о клинической эффективности и безопасности выводимых на рынок ИИ-продуктов. Многие из них содержат многообещающие заявления производителей об эффективности, однако единицы предоставляют действительно заслуживающие доверия доказательства клинической эффективностии безопасности. В этой связи за последние несколько лет в мире со стороны регуляторов, надзорныхорганов, экспертов и профессиональных сообществ активизировалась дискуссия о необходимостиболее продуманного и строгого регулирования вопросов ответственного отношения к разработкеи применению технологий ИИ в сфере здравоохранения и клинической медицины. Основываясьна анализе разнотипных документов и рекомендаций, мы сформулировали четыре ключевых принципа ответственного отношения к разработке, применению и надзору за использованиемтехнологий ИИ в российском здравоохранении: «Доверие к производителю», «Доверие к данным», «Доверие к моделям» и «Доверие к продукту», а также предложили критерии оценки и сформулировали предложения по развитию нормативного и технического регулирования