В Коннектикуте потребуется проверка человеком, прежде чем искусственный интеллект сможет принимать неблагоприятные решения по планам медицинского страхования для более чем 270 000 государственных служащих, пенсионеров и участвующих муниципальных работников. Эти меры, объявленные контролером Шоном Сканлоном 16 сентября, распространяются на Государственный план медицинского страхования для государственных служащих и План партнерства Коннектикута и вступают в силу 1 января 2027 года, согласно политике штата и независимому CT Mirror .
Главное правило простое: никакое отрицательное решение не может быть принято исключительно системой искусственного интеллекта. Оно должно быть проверено человеком. Страховщики также не могут использовать ИИ или прогностические модели в одиночку для занижения кода претензии, уменьшения выплаты поставщику услуг или изменения кода выставления счетов. Данная политика не исключает автоматизацию из рутинного администрирования претензий; она сохраняет разрешенные договорные и автоматизированные процессы, одновременно вводя человеческий контроль над решениями, которые могут снизить качество медицинской помощи или размер выплат.
Это различие важно, потому что штат регулирует собственные отношения с покупателями, а не запрещает технологию на всем страховом рынке Коннектикута. Как показывают отчеты,. Скэнлон заявил, что администраторы согласились с новыми требованиями после переговоров.
Конфиденциальность, раскрытие информации и аудит
Политика также запрещает использование данных участников для обучения, разработки или поддержки других моделей ИИ. Страховые компании и поставщики услуг обязаны сообщать участникам, когда ИИ оказывает существенную помощь, непосредственно участвует или рекомендует ту или иную льготу или медицинскую услугу. Системы ИИ должны быть протестированы на основе исторических данных на предмет точности, согласованности и справедливости, а страховые компании должны раскрывать свои процедуры управления и аудита контролеру. Независимая информация, полученная от радиостанции WSHU , подтвердила соблюдение требований к проверке людьми, конфиденциальности, раскрытию информации и аудиту.
Для пациентов практическим эффектом является право на участие человека, когда алгоритм способствует принятию неблагоприятного решения о покрытии расходов в рамках этих государственных программ. Для врачей тот же принцип применяется, когда автоматизированные инструменты могут снизить оплату или изменить кодировку. Политика не гарантирует, что человек-эксперт отменит первоначальную рекомендацию, но она предотвращает использование результатов работы ИИ в качестве окончательного решения. Она также создает механизм контроля, требуя от администраторов документировать, как управляются и проверяются их системы.
Охват значителен, но не универсален. Правила распространяются на два плана, контролируемых контролером, а не на всех жителей Коннектикута. Скэнлон заявил, что планирует обратиться к законодателям на сессии 2027 года с просьбой распространить аналогичную защиту на все регулируемые штатом планы медицинского страхования. По данным CT Mirror, примерно 220 000 человек получают страховое покрытие через этот рынок, в то время как многие планы самофинансирования крупных работодателей остаются под федеральным, а не государственным контролем.
Медицинское общество штата Коннектикут поддержало это решение, утверждая, что автоматические отказы и занижение кодов не должны заменять клиническое суждение. Отдельный отраслевой отчет компании Becker’s подтвердил, что политика распространяется на более чем 270 000 членов и сохраняет разрешенные протоколы автоматизированной обработки заявок. Таким образом, эта политика служит правилом закупок на краткосрочную перспективу и образцом для более широкого законодательного обсуждения в следующем году.