На этой неделе Министерство здравоохранения и социальных служб опубликовало масштабное правило в области информационных технологий здравоохранения, которое устанавливает первые конкретные требования к прозрачности использования искусственного интеллекта и других прогностических алгоритмов, встроенных в сертифицированные медицинские ИТ-системы, возлагая новые обязательства на технологии, поддерживающие оказание медицинской помощи в большинстве больниц и врачебных практик США.

Окончательные правила HTI-1, разработанные Управлением национального координатора по информационным технологиям в здравоохранении, были опубликованы в Федеральном реестре 9 января. Окончательные правила пересматривают Программу сертификации информационных технологий в здравоохранении, обновляют стандарты совместимости, изменяют положения о блокировании информации и создают новую систему сертификации для «средств поддержки принятия решений», включая прогностические модели, которые изучают взаимосвязи на основе обучающих данных.

ONC описывает положения об алгоритмах как первые в своем роде требования к прозрачности. Их действие потенциально широко: по данным агентства, сертифицированные ONC медицинские ИТ-решения поддерживают оказание медицинской помощи более чем в 96% больниц США и 78% врачей, работающих в частных клиниках.

Данное правило ориентировано на прозрачность, а не на федеральное одобрение алгоритмов

HTI-1 не создает систему предварительного одобрения для каждого клинического алгоритма по типу FDA. Вместо этого он требует от сертифицированных специалистов в области информационных технологий в здравоохранении предоставления базовой информации, чтобы пользователи могли понимать, как были разработаны, созданы, обучены и оценены системы прогнозирования и поддержки принятия решений.

В данном правиле прогностическое информационное обеспечение (DSI) определяется как технология, поддерживающая принятие решений с помощью алгоритмов или моделей, которые выводят взаимосвязи из обучающих данных и выдают прогноз, классификацию, рекомендацию, оценку или анализ. Это определение призвано охватить методы, начиная от традиционных статистических моделей и заканчивая машинным обучением и более сложными системами искусственного интеллекта, работающими в рамках сертифицированных медицинских информационных технологий.

опубликованной 9 января в журнале HIPAA Journal, говорится, что требования к прозрачности призваны помочь пользователям в клинической практике оценить, являются ли алгоритмы справедливыми, подходящими, валидными, эффективными и безопасными. Эта концепция решает повторяющуюся проблему в сфере искусственного интеллекта в здравоохранении: модель может влиять на лечение пациента, даже если врач, использующий ее, располагает ограниченной информацией о ее обучающей выборке, проверке, предполагаемом использовании или известных ограничениях.

Разработчики должны предоставлять доступ к атрибутам исходного кода и информации об управлении рисками

Новые критерии сертификации требуют от разработчиков информационных технологий в здравоохранении обеспечения доступа к определенным «атрибутам источника» для средств поддержки принятия решений. К ним может относиться информация о цели вмешательства, предполагаемых пользователях, разработке и валидации, наборах данных, производительности и других характеристиках, имеющих значение для оценки целесообразности использования модели.

Правило также требует от разработчиков сертифицированных информационных технологий в здравоохранении, поддерживающих прогнозирование информационных систем, применять методы управления рисками и предоставлять информацию об этих методах в открытом доступе. В тексте Федерального реестра определены такие области, как достоверность, надежность, устойчивость, справедливость, понятность, безопасность, защищенность и конфиденциальность.

Юридическая фирма Mintz в проведенном в то же время анализе , что это правило представляет собой первое существенное изменение требований ONC к сертификации систем поддержки принятия клинических решений с 2012 года. Цель состоит не в том, чтобы гарантировать высокое качество каждой модели, а в том, чтобы предоставить достаточное количество достоверной информации медицинским организациям и врачам для принятия более обоснованных решений.

Данное правило вводится в тот момент, когда генеративный искусственный интеллект ускоряет внедрение в здравоохранение

Выбор времени примечателен. Больницы, поставщики электронных медицинских карт и технологические компании быстро внедряют возможности машинного обучения и генеративного искусственного интеллекта в клинические и административные рабочие процессы. Эти инструменты могут обобщать данные, расставлять приоритеты для пациентов, прогнозировать результаты или рекомендовать действия, но их эффективность может варьироваться в зависимости от того, какие группы населения использовались для разработки.

Компания Akin Gump охарактеризовала HTI-1 как важный федеральный шаг в регулировании ИИ с использованием существующих полномочий ONC в отношении сертифицированных медицинских информационных технологий. Правило использует рычаги сертификации, а не пытается напрямую регулировать каждый алгоритм в сфере здравоохранения.

Это различие также определяет пределы действия правила. Алгоритм, находящийся за пределами сертифицированной экосистемы медицинских информационных технологий, может не соответствовать этим конкретным критериям сертификации. Больницы и врачи также сохраняют за собой ответственность за управление, локальную проверку и принятие решения о том, подходят ли результаты работы модели для отдельных пациентов.

Изменения в обеспечении совместимости сопровождают положения, касающиеся искусственного интеллекта

HTI-1 — это нечто большее, чем просто прозрачность алгоритмов. В качестве будущей базовой версии сертификации используется стандарт United States Core Data for Interoperability Version 3, который дополняет и уточняет элементы данных, предназначенные для поддержки общественного здравоохранения, обеспечения равенства в сфере здравоохранения и более стандартизированного обмена информацией. Правило также обновляет требования к электронной отчетности о случаях заболевания и интерфейсам прикладного программирования (API).

Он вносит изменения в правила, препятствующие распространению информации, и предусматривает меры, направленные на обеспечение безопасного обмена данными в рамках Рамочной программы доверенного обмена и Общего соглашения. Healthcare Finance News сообщило, что Министерство здравоохранения и социальных служб США ожидает, что сочетание политики совместимости и прозрачности улучшит способность врачей понимать алгоритмические инструменты, одновременно продолжая более широкие реформы в области обмена данными в рамках Закона о лечении в XXI веке.

Таким образом, перед организациями здравоохранения стоят взаимосвязанные вопросы внедрения: что должны раскрывать поставщики электронных медицинских карт, как осуществляется инвентаризация инструментов прогнозирования, как местное управление моделями будет использовать новую информацию и как обновленные стандарты совместимости влияют на существующие интерфейсы и рабочие процессы.

Прозрачность становится неотъемлемой частью инфраструктуры клинической безопасности

Это правило отражает политическое суждение о том, что непрозрачность алгоритмов сама по себе представляет риск для здравоохранения. Модель может выдавать числовой показатель риска или рекомендацию, которые кажутся точными, скрывая при этом важные факты о том, кто был представлен в ее обучающих данных, как часто она дает сбои или различается ли ее эффективность в разных группах пациентов.

Хупер Ланди отметил, что поставщикам медицинских услуг необходимо будет понимать новые положения о прозрачности в отношении ИИ, даже несмотря на то, что обязательства по сертификации в основном ложатся на разработчиков медицинских информационных технологий. В конечном итоге ответственность за то, как информация, используемая для поддержки принятия решений, интегрируется в процесс лечения, несут клинические пользователи.

В публикации Федерального реестра в качестве даты вступления правила в силу указано 8 февраля, в то время как для отдельных положений о сертификации и стандартах установлены собственные сроки соблюдения требований, выходящие за рамки этой даты. Таким образом, переход представляет собой не единовременное изменение, а поэтапный набор изменений в отношении сертифицированных продуктов и разработчиков.

HTI-1 не разрешает более широкую дискуссию о том, как следует регулировать искусственный интеллект в медицине. Однако он устанавливает конкретное национальное требование в одном из наиболее распространенных технологических каналов здравоохранения. Для сертифицированной экосистемы электронных медицинских карт, используемой почти каждой больницей в стране, прогностические алгоритмы больше не могут рассматриваться исключительно как невидимые проприетарные функции. Федеральная система сертификации теперь ожидает, что врачи и организации получат достаточно информации, чтобы начать задаваться вопросом, являются ли эти алгоритмы справедливыми, уместными, валидными, эффективными и безопасными.