27 июня 2022

Принципы формирования доверия к системам искусственного интеллекта для здравоохранения

284

Гусев А.В., Астапенко Е.М., Иванов И.В., Зарубина Т.В., Кобринский Б.А.

Абстракт

Внедрение технологий искусственного интеллекта (ИИ) является одним из ключевых направлений цифровой трансформации здравоохранения. Считается, что применение программного обеспечения на основе ИИ произведет революцию в здравоохранении, в т.ч. благодаря улучшению принятия клинических решений, анализу цифровых изображений, управлению рисками, прогнозированию и контролю правильности назначаемого лечения. Вместе с этим существует множество публикаций, констатирующих, что в настоящее время имеется серьезная проблема недостаточности данных о клинической эффективности и безопасности выводимых на рынок ИИ-продуктов. Многие из них содержат многообещающие заявления производителей об эффективности, однако единицы предоставляют действительно заслуживающие доверия доказательства клинической эффективностии безопасности. В этой связи за последние несколько лет в мире со стороны регуляторов, надзорныхорганов, экспертов и профессиональных сообществ активизировалась дискуссия о необходимостиболее продуманного и строгого регулирования вопросов ответственного отношения к разработкеи применению технологий ИИ в сфере здравоохранения и клинической медицины. Основываясьна анализе разнотипных документов и рекомендаций, мы сформулировали четыре ключевых принципа ответственного отношения к разработке, применению и надзору за использованиемтехнологий ИИ в российском здравоохранении: «Доверие к производителю», «Доверие к данным», «Доверие к моделям» и «Доверие к продукту», а также предложили критерии оценки и сформулировали предложения по развитию нормативного и технического регулирования

Гусев А.В., Астапенко Е.М., Иванов И.В., Зарубина Т.В., Кобринский Б.А. Принципы формирования доверия к системам искусственного интеллекта для здравоохранения. Вестник Росздравнадзора. – 2022. - №2. – С.25-33

Поделиться

Подпишитесь на нашу рассылку

Хотите получать интересную и полезную информацию о цифровом здравоохранении и искусственном интеллекте для медицины?
Включайтесь в нашу рассылку!

Присоединяйтесь

Наши группы в соц сетях