Новое соглашение Белого дома о безопасности искусственного интеллекта обязывает шесть крупных технологических компаний использовать внутренний контроль, привлекать внешних аудиторов и осуществлять надзор со стороны совета директоров для своих самых передовых систем. Однако оно не предусматривает штрафных санкций, регулирующих органов или графика публичной отчетности в случае несоблюдения компанией этих требований. Это различие отделяет общую концепцию безопасности от обязательного федерального стандарта и делает практический эффект соглашения зависимым от добровольного поведения корпораций.

Этот разрыв является центральным политическим вопросом, поднятым в одностраничном соглашении, подписанном президентом Дональдом Трампом и руководителями Google, Anthropic, Meta, OpenAI, xAI и Nvidia. Анализ Reuters, опубликованный в субботу, не выявил никаких заявленных последствий за несоблюдение соглашения, хотя администрация представляет его как ответ на растущую общественную обеспокоенность по поводу передового искусственного интеллекта. Трамп назвал это обязательство «морально обязательным».

Соглашение носит более конкретный характер, чем простое обещание действовать ответственно. Его четырехкомпонентная структура предусматривает механизмы контроля, отслеживающие возможности и соответствие модели требованиям во время обучения и развертывания; внутреннюю группу, отвечающую за проверку этих механизмов контроля; независимого внешнего аудитора или оценщика; и независимый комитет совета директоров, который получает отчеты и обеспечивает устранение проблем.

Однако в тексте не определено, какие именно модели подпадают под действие закона, не установлены сроки, не требуется публикация результатов аудита и не указано, кто определяет, является ли внешний эксперт действительно независимым. В нем говорится, что компании будут регулярно встречаться для установления стандартов и передовых методов работы, и признается, что эти шаги в конечном итоге могут быть закреплены в законе или нормативном акте. На данный момент участие и соблюдение требований остаются добровольными.

Конструкция безопасности без судьи

Наиболее сильной стороной соглашения является его многоуровневая структура. Внутренний технический контроль позволяет выявлять рискованное поведение на этапе разработки; отдельная внутренняя команда может проверить эффективность этих мер контроля; внешний эксперт может оспорить предположения компании; а директора могут потребовать устранения нарушений. В принципе, это распределяет ответственность, вместо того чтобы оставлять вопросы безопасности полностью на плечах одних и тех же инженеров, спешащих выпустить продукт.

Недостаток заключается в том, что каждый уровень по-прежнему зависит от сотрудничества компаний. Внешний оценщик выбирается в рамках партнерства компаний, отчеты передаются комитету совета директоров компании, и соглашение не предусматривает создание федерального ведомства, уполномоченного проверять доказательства или принимать меры по исправлению ситуации. Сообщения Associated Press с мероприятия в Белом доме показали, что даже некоторые участники считали этот механизм недоработанным. Генеральный директор Anthropic Дарио Амодей заявил, что технология представляет реальные риски, но методы их устранения остаются предметом обсуждения.

Администрация утверждает, что существующие полномочия могут пресекать неправомерные действия и что регулирование может замедлить американские инновации по сравнению с Китаем. Советники указывают на законодательство о ценных бумагах и другие правовые инструменты как на потенциальные последствия игнорирования компаниями проблем. Однако эти законы, как правило, действуют посредством установленных правовых обязанностей и постфактумного правоприменения; само соглашение не расширяет их и не устанавливает превентивное лицензирование.

Соглашение вписывается в более широкую добровольную стратегию

Такой подход соответствует прежней политике администрации. В июне исполнительный указ предписывал ведомствам создать добровольную систему, в рамках которой застройщики могли бы предоставлять федеральному правительству ранний доступ к охватываемым моделям освоения новых территорий. В указе прямо указывалось, что его не следует толковать как введение обязательного лицензирования, предварительного согласования или выдачи разрешений для новых моделей.

Национальная законодательная база Белого дома также предусматривает единую федеральную политику, меры против мошенничества с использованием ИИ и угроз национальной безопасности, а также снижение барьеров для инноваций. В ней предупреждается, что противоречащие друг другу законы штатов могут подорвать конкурентоспособность США. В результате наблюдается устойчивое предпочтение национальной координации и частного контроля над директивным федеральным контролем.

Эта философия теперь подвергается проверке на достоверность. Недавний опрос Reuters/Ipsos показал, что 73% американцев обеспокоены тем, что компании, занимающиеся ИИ, не сделали достаточно для предотвращения серьезного вреда для общества, в то время как 55% заявили, что замедление развития было бы полезным. Опрос не доказывает, что избиратели предпочитают какую-либо конкретную модель регулирования, но показывает, что одних лишь гарантий со стороны отрасли недостаточно для разрешения общественного беспокойства.

Что позволило бы сделать это обещание измеримым?

Соглашение могло бы стать более значимым, даже если бы не превратилось немедленно в всеобъемлющую систему лицензирования. Разработчики политики могли бы определить модели, находящиеся на стадии проверки, установить минимальные квалификационные требования и правила разрешения конфликтов интересов для экспертов, потребовать стандартизированных сводок результатов аудита, установить сроки устранения нарушений и назначить агентство для получения конфиденциальных технических доказательств. Конгресс также мог бы определить, какие нарушения влекут за собой юридическую ответственность.

Эти решения сопряжены с компромиссами. Публичное раскрытие информации может выявить уязвимости в системе безопасности или конфиденциальные данные. Узкий список утвержденных аудиторов может создать узкие места и отдать предпочтение крупнейшим компаниям. Пороговые значения моделей могут быстро устареть по мере изменения методов вычислений. Поэтому для эффективного надзора потребуется конфиденциальная отчетность, техническая экспертиза и периодические обновления, а не фиксированный контрольный список.

На данный момент соглашение лучше всего рассматривать как образец корпоративного управления, а не как нормативный режим. Оно ставит независимый аудит и подотчетность совета директоров в повестку дня федеральной политики и обеспечивает письменные обязательства от шести влиятельных компаний. В нем не говорится о том, как будет проверяться соблюдение требований или что произойдет, если подписавшая сторона нарушит их. Эффективность соглашения будет зависеть не столько от его обещаний, сколько от стандартов, раскрытия информации и архитектуры правоприменения, которые последуют за ним.