На этой неделе президент Джо Байден распорядился, чтобы федеральное правительство создало новую масштабную систему регулирования искусственного интеллекта, включая требования к разработчикам наиболее мощных систем предоставлять правительству США определенные результаты испытаний на безопасность до их публичного выпуска. Исполнительный указ, подписанный в понедельник и опубликованный в Федеральном реестре в среду, охватывает вопросы национальной безопасности, кибербезопасности, защиты прав потребителей, гражданских прав, трудовых отношений, неприкосновенности частной жизни, конкуренции и использования ИИ самим правительством.

Данная директива является наиболее всеобъемлющим федеральным актом в области искусственного интеллекта на сегодняшний день. Она не предусматривает создание нового независимого органа по регулированию ИИ, и многие ее положения зависят от существующих законодательных полномочий. Вместо этого она устанавливает сроки для таких ведомств, как Министерство торговли, Министерство внутренней безопасности, Министерство энергетики, Министерство труда, Министерство здравоохранения и социальных служб и Управление по бюджету и управлению, создавая общеправительственный график для стандартов, тестирования, отчетности и правил закупок.

Отчеты о безопасности для систем с высочайшими возможностями

Указ, ссылаясь на Закон об оборонном производстве, обязывает определенные компании, разрабатывающие так называемые базовые модели двойного назначения, уведомлять федеральное правительство о том, что они обучают системы, соответствующие определенным вычислительным порогам. Он также обязывает эти компании предоставлять информацию о тестировании «красной командой» и других мерах безопасности. В информационном бюллетене цель описывается как обеспечение того, чтобы наиболее эффективные системы были безопасными, надежными и заслуживающими доверия до их широкого развертывания.

В основе этого президентского указа также лежит поручение Национальному институту стандартов и технологий разработать строгие стандарты для испытаний на безопасность. Эта работа будет основываться на существующей системе управления рисками, выпущенной в январе в качестве добровольной, отраслевой нейтральной системы для выявления и управления рисками, связанными с надежностью, прозрачностью, конфиденциальностью, справедливостью, безопасностью и другими аспектами ИИ.

Такой подход важен, поскольку федеральное правительство пытается создать измеримые меры защиты в области, технические возможности которой развиваются быстрее, чем обычный цикл нормотворчества. Вместо того чтобы устанавливать единое постоянное определение опасного ИИ, указ определяет пороговые значения, обязанности ведомств и процессы, которые могут обновляться по мере повышения функциональности систем.

Национальная безопасность становится центральным организующим принципом

В указе передовые технологии искусственного интеллекта рассматриваются не только как потребительская технология, но и как актив и риск для национальной безопасности. Ведомствам поручено разработать стандарты для защиты критической инфраструктуры, снижения рисков биологического и химического злоупотребления, повышения кибербезопасности и защиты весовых коэффициентов моделей. Министерству торговли также поручено изучить требования к отчетности, касающиеся крупномасштабной вычислительной инфраструктуры и доступа иностранных государств к облачным ресурсам США.

Такая позиция в области безопасности соответствует более широкой технологической политике администрации. За две недели до распоряжения об искусственном интеллекте Бюро промышленности и безопасности Министерства торговли объявило об ужесточении контроля над полупроводниковой промышленностью , призванном ограничить доступ Китая к передовым вычислительным чипам и оборудованию для их производства. Бюро промышленности и безопасности прямо связало эти меры контроля с военным и разведывательным применением высокопроизводительных вычислительных систем и искусственного интеллекта.

Закон об ИИ не объединяет внутреннее регулирование с экспортным контролем, но политическая архитектура все чаще рассматривает вычислительные мощности, передовые чипы, возможности моделирования и кибербезопасность как взаимосвязанные элементы стратегической конкуренции. Это существенный сдвиг по сравнению с более ранним периодом, когда федеральная политика в области ИИ была сосредоточена в основном на финансировании исследований и добровольных этических рекомендациях.

Гражданские права, права трудящихся и потребителей входят в круг обязанностей

Данный указ не ограничивается катастрофическими или военными рисками. Он обязывает ведомства бороться с дискриминацией, вызванной использованием алгоритмов, в жилищной сфере, сфере занятости и других областях; изучать влияние ИИ на работников; разрабатывать рекомендации по ответственному использованию в здравоохранении и образовании; и укреплять технологии, обеспечивающие конфиденциальность. Он также призывает к принятию мер против мошенничества и обмана с использованием ИИ, включая стандарты аутентификации правительственных сообщений и поощрение инструментов, способных идентифицировать синтетический контент.

Администрация пытается избежать узких рамок, в которых безопасность означает лишь предотвращение серьезных технических сбоев. Вместо этого указ рассматривает надежный ИИ как сочетание безопасности, соблюдения гражданских прав, точности, конкуренции и подотчетности. Такая широта охвата усложнит реализацию, поскольку разные ведомства действуют в соответствии с разными законами и обладают разными полномочиями по их применению.

Управление по бюджету и управлению в своем анализе влияния на бюджет , что выполнение этого распоряжения не окажет никакого влияния на федеральные обязательные или дискреционные расходы и ассигнования в течение пятилетнего финансового периода, начинающегося в 2024 году. Это не означает, что выполнение будет бесплатным в операционном смысле; ведомствам придется перенаправить персонал, работу по стандартизации и надзор за закупками на внедрение ИИ в сжатые сроки.

Исполнительная структура на время обсуждения законопроектов в Конгрессе

Сфера действия этого указа также подчеркивает ограничения исполнительной власти. Конгресс рассматривал множество предложений, касающихся прозрачности в отношении ИИ, ответственности, лицензирования, конфиденциальности и национальной безопасности, но так и не принял всеобъемлющего федерального закона об ИИ. Поэтому Белый дом в значительной степени полагается на полномочия, уже предоставленные ведомствам, и на право президента руководить деятельностью исполнительной власти.

Это создает двухступенчатую систему. Администрация может быстро продвигаться в вопросах федеральных закупок, отчетности по вопросам национальной безопасности, технических стандартов и приоритетов правоприменения ведомств, в то время как более широкие вопросы, касающиеся частных прав, ответственности и постоянной нормативной структуры, остаются на рассмотрении Конгресса.

Для технологических компаний первостепенное значение имеет то, что федеральный надзор становится более конкретным. Тестирование безопасности, вычислительные пороговые значения, методы «красной команды» и механизмы контроля безопасности моделей переходят от добровольных обязательств к формальным процессам отчетности и стандартизации. Для правительства теперь начинается более сложная задача: превратить 100-страничный указ президента в действенные правила, не замораживая при этом технологию, возможности и коммерческое применение которой меняются каждый месяц.