Стандарты в области искусственного интеллекта в здравоохранении

Основная статья: Искусственный интеллект (ИИ), Artificial intelligence (AI)

Искусственный интеллект в медицине

Основная статья: Искусственный интеллект в медицине

2023

Вступил в силу разработанный столичными врачами ГОСТ для сервисов искусственного интеллекта в клинической медицине

Вступил в силу разработанный с участием московских рентгенологов ГОСТ, необходимый для безопасного проектирования и технического обслуживания систем искусственного интеллекта в клинической медицине. Он устанавливает основу процессов жизненного цикла нейросетей. Это 11-й по счету отечественный стандарт. Его будут применять разработчики сервисов искусственного интеллекта, сотрудники лабораторий при технических испытаниях и специалисты медицинских организаций в клинических испытаниях. Об этом 20 сентября 2023 года сообщила Анастасия Ракова, исполняющий обязанности заместителя Мэра Москвы по вопросам социального развития.

Стремительное развитие технологий искусственного интеллекта, которое идет в московском здравоохранении, поставило вопрос о необходимости принятия норм, регламентирующих его использование. Этому вопросу уделяется особое внимание: столичные специалисты работают над стандартами уже третий год. Документ определяет требования для каждого процесса жизненного цикла систем искусственного интеллекта. Использование стандартов обеспечит внедрение только проверенных, надежных решений в практическую медицину, поможет в разработке новых нейросетей и тестировании существующих, — рассказала Анастасия Ракова.

Данный стандарт дополняет существующий ГОСТ IEC 62304-2022. Авторы добавили в набор процессов жизненного цикла программного обеспечения медицинских изделий необходимость проведения мониторинга системы искусственного интеллекта на всех этапах, связанных с эксплуатацией.TAdviser Security 100: Крупнейшие ИБ-компании в России 58.6 т

Для разработки единых понятий и норм столица объединила несколько десятков специалистов: разработчиков программного обеспечения, медиков, профессоров, научных сотрудников. Среди авторов стандарта есть специалисты Центра диагностики и телемедицины столичного Департамента здравоохранения.

На базе Центра диагностики и телемедицины ДЗМ осуществляется научный Эксперимент по внедрению компьютерного зрения в лучевую диагностику. Наработанный опыт и научные результаты эксперимента и дали возможность нашим специалистам начать работу над созданием национальных стандартов. Разработаны 11 ГОСТов, 10 из которых вступили в силу и функционируют с 1 января 2023 года, в данный момент еще 3 проекта стандарта прошли публичные обсуждения, – рассказал главный рентгенолог Москвы, директор Центра диагностики и телемедицины ДЗМ Юрий Васильев.

Инициатива создания национальных стандартов для внедрения систем искусственного интеллекта в клиническую медицину принадлежит профильному подкомитету технического комитета по стандартизации «Искусственный интеллект» Росстандарта, организованному на базе Центра диагностики и телемедицины Департамента здравоохранения Москвы.

В России вступили в силу еще два ГОСТа по тестированию ИИ в клинической медицине

1 января 2023 года в России в силу вступили стандарты (ГОСТ Р 59921.8-2022 и ГОСТ Р 59921.9-2022), устанавливающие общие требования к системам искусственного интеллекта в медицине и системам менеджмента качества. Об этом Zdrav.Expert 11 января 2023 года сообщили представители Центра диагностики и телемедицины ДЗМ (НПКЦ ДиТ ДЗМ). По их словам, принятые единые стандарты призваны помочь в разработке новых нейросетей и тестировании существующих, а также позволят внедрять в практическую медицину только лучшие практики.

Фото Д. Гришкина. Пресс-служба Мэра и Правительства Москвы

Оба ГОСТа разработаны Центром диагностики и телемедицины Департамента здравоохранения Москвы. Инициатива создания национальных стандартов для внедрения систем искусственного интеллекта в клиническую медицину принадлежит профильному подкомитету 01 Технического комитета по стандартизации 164 «Искусственный интеллект» Росстандарта, организованному на базе НПКЦ ДиТ ДЗМ. Для разработки единых понятий и норм для всех участников процесса столица объединила несколько десятков специалистов – разработчиков программного обеспечения, медиков, профессоров, научных сотрудников.

Документы устанавливают общие положения комплекса национальных стандартов «Системы искусственного интеллекта в клинической медицине». Кроме этого, они определяют требования к методам испытаний систем искусственного интеллекта (СИИ) для анализа медицинских изображений.

Так, ГОСТ Р 59921.8-2022 («Системы искусственного интеллекта в клинической медицине. Часть 8. Руководящие указания по применению ГОСТ ISO 13485-2017») предложит организациям руководство по применению ГОСТ ISO 13485 к процессам, связанным с заказом, поставкой, разработкой, эксплуатацией СИИ.

В свою очередь, ГОСТ Р 59921.9-2022 («Системы искусственного интеллекта в клинической медицине. Алгоритмы анализа данных в клинической физиологии. Методы испытаний. Общие требования») распространяется на интеллектуальный анализ данных, полученных методами исследования в клинической физиологии, он определит организацию работ по стандартизации испытаний алгоритмов и СИИ, применяемых для обработки и анализа данных.

Прежде всего, ГОСТы РФ будут применяться разработчиками сервисов искусственного интеллекта, лабораториями при технических испытаниях и медицинскими организациями в клинических испытаниях.

«Мы наблюдаем колоссальный прорыв в сфере искусственного интеллекта в московской медицине. В прошлом году появились первые ГОСТы РФ для тестирования нейросетей в клинической медицине, теперь вступили в силу новые. Таким образом, приняты и применяются уже 10 ГОСТов РФ, которые разработали столичные рентгенологи, — заявила заместитель мэра Москвы по вопросам социального развития Анастасия Ракова.

По её словам, специалисты создают стандарты для систем искусственного интеллекта в здравоохранении, которых еще нет в мире, опираясь на свой уникальный опыт и научные разработки. Такие стандарты повышают доверие к современным технологиям и делают более прозрачными и понятными все процессы и на этапе разработки, и при регистрации, и при эксплуатации. В свою очередь, это помогает ускорить внедрение умных решений, а также получать более качественные и предсказуемые инструменты для заботы о здоровье пациентов, подчеркнула Анастасия Ракова.

По состоянию на январь 2023 года в столичной медицине внедрены более 40 сервисов искусственного интеллекта по 17 различным направлениям исследований. Врачи пользуются нейросетями для обработки флюорографии, маммографии, рентгенографии, компьютерной томографии и магнитно-резонансной томографии. Искусственный интеллект помогает находить на лучевых исследованиях признаки рака легкого, COVID-19, остеопороза позвоночника, аневризмы аорты, ишемической болезни сердца, инсульта, легочной гипертензии, гидроторакса, а также рака молочной железы, плоскостопия и других заболеваний.

2022

Московские рентгенологи разработали ГОСТ по тестированию ИИ в клинической медицине

Московские врачи – сотрудники Центра диагностики и телемедицины Депздрава – разработали стандарт, регулирующий проведение клинических испытаний систем искусственного интеллекта. Ранее такого документа для этих систем не существовало. Об этом 2 августа 2022 года Zdrav.Expert сообщили представители Центра диагностики и телемедицины (НПКЦ ДиТ ДЗМ). Подробнее здесь.

Россия первой в мире приняла стандарты ИИ для здравоохранения

В феврале 2022 года стало известно о том, что Россия первой в мире приняла стандарты в области искусственного интеллекта в здравоохранении. По словам директора Института цифровой медицины, зав. кафедрой информационных и интернет-технологий Первого МГМУ им. И.М. Сеченова Георгия Лебедева, первые пять стандартов вступят в силу в течение 2022 года, среди которых:

• «Интеллектуальные методы обработки медицинских данных. Основные положения»;
• «Системы ИИ в клинической медицине – программа, методика клинических испытаний»;
• «Стандарт управления изменениями в системах ИИ с непрерывным обучением».

Россия первой в мире приняла стандарты ИИ для здравоохранения

Отмечается, что к 9 февраля 2022 года в России готовятся еще 58 стандартов по медицинским системам ИИ с непрерывным обучением и около 60, определяющих требования к взаимодействию медицинских устройств и приборов с электронными медкартами, а также взаимодействию с системой цифрового здравоохранения. Подготовкой документов занимаются два технических комитета по стандартизации, один из которых возглавляет Георгий Лебедев, другой – директор Научно-практического клинического центра диагностики и телемедицинских технологий Департамента здравоохранения Москвы Сергей Морозов.

При этом к февралю 2022 года международных стандартов в сфере искусственного интеллекта для здравоохранения не существует, приняты лишь рекомендации по их разработке: для подготовки документации создана международная группа специалистов с участием российских экспертов. Согласно решению Всемирной организации здравоохранения, полномочия по разработке возложены на один из технических комитетов этой организации.

К 1 апреля 2022 года Правительство РФ по поручению президента Владимира Путина должно будет подготовить доклад, посвященный совершенствование механизмов применения экспериментальных правовых режимов в сфере цифровых инноваций. В частности, кабмину поручено обратить особое внимание на необходимость определения ответственных за причинение вреда в результате использования решений на основе ИИ.^[1]

2021: ИИ в медицине стандартизировали

20 октября 2021 года стало известно о том, что технический комитет по стандартизации опубликовал окончательные редакции трех проектов национальных стандартов для применения ИИ в медицине. Игроки рынка оценивают стандарты положительно и считают, что с ними можно работать.

Стандарты включают в себя несколько гостов. Первый стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания". Он устанавливает общие требования к проведению клинических испытаний и оценки систем искусственного интеллекта (СИИ) для определения уровня безопасности и клинической значимости выходных данных СИИ, общие принципы применения показателей оценки точности СИИ.

Второй стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров". Стандарт устанавливает общие требования к оценке и контролю эксплуатационных параметров системы искусственного интеллекта при вводе в эксплуатацию и периодическом контроле, что позволит проводить однозначно интерпретируемую оценку характеристик и параметров СИИ.

Третий стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов". Стандарт устанавливает общие требования к структуре и порядку применения наборов данных, которые используются для обучения и тестирования систем искусственного интеллекта.

Директор по акселерации по направлению цифровая медицина кластера биомедицинских технологий Фонда "Сколково" Сергей Войнов считает, что Технический комитет по стандартизации №164 был сформирован из хорошей экспертной группы по разработке, доработке и адаптации тех стандартов, которые существовали в мире по применению искусственного интеллекта в медицине.

Финальная версия этих стандартов, которые были преобразованы в ГОСТ, отражает объективную реальность тех кейсов, которые мы видим на рынке искусственного интеллекта. Это хороший шаг к гармонизации стандартов применения искусственного интеллекта. И мы здесь занимаем хорошую экспертную позицию: часть нашей группы работает над разработкой стандартов ISO, то есть международных. Также была проведена работа по адаптации этих международных стандартов под реалии российского здравоохранения, - отметил Сергей Войнов.

Сергей Войнов считает, что стандарты достаточно здравые, с ними можно работать и на них можно ориентироваться.

Конечно, они будут нуждаться в актуализации, потому что технологии искусственного интеллекта - это новая область, и там постоянно появляются продукты, технологические решения, и, соответственно, это затрагивает все более широкий спектр медицинских процессов. В какой-то момент времени накопится достаточное количество технологических кейсов, когда нужно будет эти стандарты обновлять. Но на октябрь 2021 года, считаю, хорошо, что они вышли, и многим игрокам рынка будет удобно на них ориентироваться, - подчеркнул Сергей Войнов.

В соответствии с перспективным планом работы ТК 164, до 2027 г. должно быть разработано около 50 стандартов в области ИИ в здравоохранении, отмечает Александр Рожков.

Первичными стандартами для такой области, как ИИ, должны быть обзор терминов и классификация технологий. Другими словами, должна быть составлена онтологическая модель ИИ применительно к сфере здравоохранения. По сути, необходимо провести большую научно-исследовательскую работу по изучению существующих практик и перспективных направлений использования ИИ в здравоохранении, - сказал Александр Рожков.

За прошедшие полтора года на рынке появилось множество HealthTech и COVID-Tech стартапов, в решениях которых так или иначе используются технологии ИИ. Большое количество потенциальных направлений, а также уровень зрелости технологий ИИ можно выявить в рамках подробного рассмотрения "дорожной карты" "Хелснет" Национальной технологической инициативы и "дорожной карты" развития "сквозной" цифровой технологии "Нейротехнологии и искусственный интеллект, - отметил Александр Рожков.

Безусловно, при разработке стандартов необходимо учитывать множество организационно-технологических, этических и юридических аспектов, подчеркивает Александр Рожков.

В том числе необходимо учитывать стандарты, обозначенные в Концепции регулирования технологий ИИ и робототехники до 2024 г., - доступность дата-сетов и библиотек снимков для обучения нейросетей, самоуправляемые и самообучаемые диагностические модели, приоритет "второго" мнения, ответственность за ошибки в постановке диагнозов, управление рисками, методы оценки эффективности диагностики, встраивание подобных систем в единый цифровой контур здравоохранения, обеспечение кибербезопасности, импортозамещение, сертификация и патентование алгоритмов/систем/сервисов/платформ на основе ИИ, подготовка кадров для работы с системами и т.п., - отметил Александр Рожков, директор по продуктовым технологиям группы "Т1"[2].

2020

Создание стандартов

24 августа 2020 года стало известно о разработке первого в России национального стандарта для искусственного интеллекта в здравоохранении. Проект ГОСТ Р, который будет регулировать проведение клинических испытаний медицинских ИИ-систем (СИИ), создали эксперты Центра диагностики и телемедицины Департамента здравоохранения Москвы совместно с подкомитетом «Искусственный интеллект в здравоохранении» (входит в Технический комитет №164 Росстандарта).

Настоящий стандарт устанавливает общие требования к проведению КИ и клинической оценки СИИ для определения уровня безопасности и клинической значимости выходных данных СИИ, общие принципы применения показателей оценки точности СИИ, — указано в документе, выдержку из которого приводит издание Vademec.

В России разработали национальный стандарт для ИИ в здравоохранении

Как пояснил директор Центра диагностики и телемедицины и председателя подкомитета ПК01/ТК164 «Искусственный интеллект в здравоохранении» Сергей Морозов, ИИ-технологий направлены на оптимизацию работы диагностов, автоматизацию рутинной работы, информационную поддержку и внедрение других опций, которые помогают врачам. Практическое использование таких систем в медицине невозможно без единых нормативно-технических норм, добавил он.

В Минздраве отмечают, что, согласно национальной стратегии развития искусственного интеллекта на период до 2030 года создание условий, которые будут обеспечивать использование технологий искусственного интеллекта в области здравоохранения – одна из ключевых задач по улучшению уровня жизни населения. Вопросы доверия к медицинским интеллектуальным системам и связанные с применением систем ИИ в медицинской диагностике барьеры могут быть сняты за счёт стандартизации требований к методикам испытаний интеллектуальных систем, а также критериев соответствия данных систем требованиям безопасности.^[3]

Планы по разработке первых редакций национальных стандартов в области ИИ

26 февраля 2020 года РВК сообщил Zdrav.Expert, что в 2020 году в России будут разработаны первые редакции национальных стандартов в области искусственного интеллекта в здравоохранении. Координировать разработку будет Технический комитет по стандартизации «Искусственный интеллект» (ТК 164), созданный на базе РВК.

В соответствии с перспективным планом работы Технического комитета до 2027 года планируется разработать около 50 стандартов в области искусственного интеллекта в здравоохранении по отдельным направлениям, включая общие требования и классификацию систем ИИ в клинической медицине, лучевую и функциональную диагностику, системы дистанционного мониторинга, гистологию, системы поддержки принятия врачебных решений, реконструкцию изображений в диагностике и лечении, большие данные в здравоохранении, медицинские системы аналитики и прогнозирования, образовательные программы в здравоохранении.

Редакции первых шести национальных стандартов будут подготовлены уже в 2020 году, среди них:

• Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания;
• Системы искусственного интеллекта в клинической медицине. Часть 2. Программа и методика технических испытаний;
• Системы искусственного интеллекта в клинической медицине. Часть 3. Применение менеджмента качества к дообучаемым программам. Протокол изменения алгоритма;
• Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров дообучаемых алгоритмов;
• Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов;
• Системы искусственного интеллекта в клинической медицине. Часть 6. Общие требования к эксплуатации.

Здравоохранение – одна из тех областей, стандартизация технологий искусственного интеллекта в которых наиболее актуальна. Объясняется это, во-первых, опасностью последствий от использования в клинической практике систем ИИ с негарантированным качеством, а во-вторых – высокой технологической зрелостью разработок в этой области. Только у нас в стране насчитывается несколько десятков компаний, предлагающих весьма продвинутые интеллектуальные системы обработки медицинской информации, и отсутствие адекватной нормативной базы является сдерживающим фактором, препятствующим эффективному внедрению этих систем, сообщил председатель Технического комитета «Искусственный интеллект» Сергей Гарбук

В целях координации работ по унификации и стандартизации требований к системам ИИ в здравоохранении, а также установки сертификационных требований к медицинским изделиям, приказом Росстандарта в составе ТК 164 создан подкомитет «Искусственный интеллект в здравоохранении» (ПК01/ТК164). Подкомитет образован на базе Центра диагностики и телемедицины. Его возглавил главный внештатный специалист по инструментальной и лучевой диагностике Департамента здравоохранения Москвы и Минздрава России по ЦФО, директор Центра диагностики и телемедицины, доктор медицинских наук, профессор Сергей Морозов.

Национальные стандарты будут регулировать ключевые аспекты применения искусственного интеллекта в здравоохранении и его роли в принятии врачебных решений. Без единых нормативно-технических норм, одобренных профессиональным сообществом на условиях консенсуса, практическое внедрение искусственного интеллекта в сфере здравоохранения невозможно. Подчеркну, что основной акцент в нашей работе будет сделан на практическом здравоохранении. Фармацевтики мы касаться не будем, отметил Сергей Морозов

Технический комитет «Искусственный интеллект» создан в 2019 году по инициативе РВК при поддержке Минпромторга РФ и Росстандарта. Работы по стандартизации в области ИИ в ключевых отраслях экономики будут проводиться ТК 164 в соответствии с Национальной стратегией развития искусственного интеллекта на период до 2030 года. Она предусматривает создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта, развитие международного сотрудничества по вопросам стандартизации и обеспечение возможности сертификации продукции, созданной на основе ИИ.

Сеченовский Университет присоединился к международной команде по разработке стандартов ИИ в медицине

Сеченовский Университет принимает активное участие в процессе цифровизации и информатизации здравоохранения. Очередным этапом в развитии данного направления стала работа в рамках рабочей группы по Искусственному интеллекту TC 215 ISO Health informatics Международной организации по стандартизации (ИСО). Об этом Сеченовский Университет сообщил 18 февраля 2020 года. Подробнее здесь.

Новые технологии в здравоохранении