Укрепление цифрового доверия к инструментам искусственного интеллекта

Фото: WHYFRAME/Shutterstock

Национальный орган по стандартизации Великобритании, BSI, опубликовал руководство, призванное повысить доверие к цифровым продуктам искусственного интеллекта, используемым для диагностики или лечения пациентов, начиная от медицинских устройств и заканчивая чат-ботами для смартфонов или инструментами домашнего мониторинга.

С появлением более инновационных инструментов искусственного интеллекта врачи и поставщики медицинских услуг получат возможность эффективно принимать обоснованные диагностические решения для вмешательства, профилактики и лечения заболеваний, что в конечном итоге улучшит качество жизни пациентов и принесет пользу обществу.

Скотт Стидман, генеральный директор по стандартам BSI, сказал: «Новое руководство может помочь укрепить цифровое доверие к передовым инструментам, которые представляют огромную потенциальную пользу для пациентов и специалистов, диагностирующих и лечащих их».

Поскольку во всем мире продолжаются дебаты относительно надлежащего использования ИИ, публикуется структура валидации для использования ИИ в здравоохранении – спецификация (BS 30440), которая поможет повысить уверенность среди врачей, медицинских работников и поставщиков медицинских услуг в том, что инструменты, разработанные в безопасном и эффективном режиме. и этический путь. Поддающийся аудиту стандарт, который может использоваться во всем мире, конкретно ориентирован на продукты, ключевой функцией которых является обеспечение или обеспечение лечения, диагностики или поддержки управления состояниями здоровья.

Прогнозы показывают, что к 2030 году объем мирового рынка искусственного интеллекта в здравоохранении может превысить 187,95 миллиарда долларов. Поставщики медицинских услуг и врачи могут столкнуться с временными и бюджетными ограничениями или нехваткой собственных возможностей и возможностей для проведения оценок продуктов искусственного интеллекта, поэтому спецификация может способствовать принятию решений. какие инструменты использовать. Это может помочь врачам и пациентам оценить продукты искусственного интеллекта в сфере здравоохранения, учитывая такие критерии, как клиническая польза, стандарты производительности, успешная и безопасная интеграция в клиническую рабочую среду, этические соображения и социально справедливые результаты.

Он охватывает продукты искусственного интеллекта в сфере здравоохранения, используемые в самых разных условиях: от регулируемых медицинских устройств (например, программного обеспечения в качестве медицинского устройства) до продуктов, ориентированных на пользователя (например, программное обеспечение для обработки изображений) или продуктов, ориентированных на пациентов (например, чат-боты для смартфонов, использующие искусственный интеллект). Сюда также входят продукты искусственного интеллекта, которые используются дома (например, продукты для мониторинга) или в общественных, первичных, вторичных или третичных медицинских учреждениях. Спецификация применяется к продуктам, моделям, системам или технологиям, в которых используются элементы ИИ, включая машинное обучение, а также актуальна для поставщиков систем ИИ и аудиторов продукции.

Документ был разработан группой экспертов, сотрудничающих с целью выявления лучших практик, включая врачей, инженеров-программистов, экспертов по искусственному интеллекту, специалистов по этике и руководителей здравоохранения. Он объединяет существующую руководящую литературу и передовой опыт, а затем преобразует оценку сложной функциональности в проверяемую структуру, по которой можно оценить соответствие системы ИИ. Медицинские организации могут потребовать сертификацию BS 30440 в качестве требования в своих процессах закупок, обеспечивая тем самым соответствие этих систем известному стандарту.

Джин Грейтхаус, директор по глобальному здравоохранению, BSI сказал: «Этот стандарт очень актуален для организаций сектора здравоохранения и тех, кто с ним взаимодействует. Поскольку ИИ становится нормой, он потенциально может преобразовать здравоохранение..С появлением более инновационных инструментов искусственного интеллекта и способности алгоритмов искусственного интеллекта обрабатывать и точно анализировать большие объемы данных врачи и поставщики медицинских услуг могут эффективно принимать обоснованные диагностические решения для вмешательства, предотвращения и лечения заболеваний, в конечном итоге улучшая качество жизни пациентов. »

Спецификация отвечает потребности в согласованных рамках валидации для разработки ИИ и клинической оценки в здравоохранении. Он основан на концепции, впервые опробованной экспертами Онкологического центра Гая и Сент-Томаса и пересмотренной в ходе последующих обсуждений с заинтересованными сторонами, работающими в области искусственного интеллекта и машинного обучения. Параллельно BSI работает в партнерстве с регулирующими органами, организациями здравоохранения и другими органами над рассмотрением роли стандартов в поддержке регулирования и управления ИИ в здравоохранении.