Во вторник шесть наиболее влиятельных компаний, занимающихся искусственным интеллектом, подписали добровольное соглашение с Белым домом, которое предусматривает внутренний контроль, независимые аудиты и надзор на уровне совета директоров за передовыми системами ИИ, но не предусматривает никаких юридических санкций, фиксированных сроков или режима государственной инспекции.
Соглашение на одной странице, подписанное руководителями Google, Anthropic, Meta, OpenAI, Nvidia и xAI, устанавливает четыре уровня контроля. Компании будут отслеживать возможности и соответствие моделей во время обучения и развертывания; назначать внутреннюю команду для проверки эффективности этих мер контроля; нанимать внешнего аудитора или оценщика; и назначать независимый комитет совета директоров для получения результатов. Согласно информации, опубликованной Reuters и AP.
Президент Дональд Трамп назвал соглашение «морально обязательным» после встречи с руководителями компаний в Белом доме, а в документе говорится, что его положения в конечном итоге могут быть закреплены в законах или нормативных актах. Это означает, что непосредственная сила соглашения зависит от того, как компании определят, внедрят и раскроют свои собственные механизмы контроля. Поэтому его важность зависит не столько от нового регулирующего органа, сколько от того, создадут ли подписавшие стороны общую базовую модель, которую можно будет независимо проверить.
Четыре уровня, минимум деталей реализации
Архитектура соглашения напоминает корпоративную систему управления рисками: технические группы выявляют опасности, отдельная внутренняя функция проверяет их работу, внешняя сторона оценивает систему, а директора получают результаты. Такая последовательность может снизить вероятность того, что команда разработчиков продукта оценит свою собственную работу без проверки. Она также выводит вопросы безопасности ИИ из исследовательских групп в формальное корпоративное управление, где советам директоров можно задать вопрос о том, что они знали и как реагировали.
Однако в опубликованном тексте не установлены общие пороговые значения для тестирования, шаблоны отчетности или последствия за неудовлетворительную оценку. В нем не говорится, кто считается независимым аудитором, могут ли компании выбирать и оплачивать услуги собственных аудиторов, или должны ли результаты публиковаться. После объявления о соглашении его объем оставался неясным, и газета Washington Post сообщила, что многие подписавшие его стороны уже используют версии обещанных проверок. Эти пробелы делают показатель прогресса не подписанием, а реализацией соглашения.
Почему компании приняли добровольную модель
Соглашение заключено в тот момент, когда разработчики передовых моделей находятся под давлением с двух сторон. Их системы становятся все более совершенными, в том числе в областях, имеющих отношение к использованию программного обеспечения и автономным действиям, в то время как отрасль вкладывает значительные средства в центры обработки данных и ищет возможности для быстрого развертывания продуктов. Добровольная структура предлагает компаниям способ проявлять осторожность, не подвергая каждый выпуск модели федеральному процессу утверждения.
Для администрации такое соглашение соответствует стратегии, которая делает акцент на конкурентоспособности США и быстром строительстве инфраструктуры, одновременно сопротивляясь широкому регулированию рынка до его открытия. Трамп заявил, что отрасль может контролировать себя сама, и также предложил создать надзорную группу примерно из 10 человек, хотя он не назвал ни членов, ни полномочий. В репортаже CBS об этом событии также описывались стандарты, основанные на проверках, проводимых самими компаниями, а не на обязательной федеральной программе.
Существующие стандарты показывают, чего не хватает
У федерального правительства уже есть более подробный добровольный ориентир. Профиль рисков , описывает подход к выявлению, измерению и управлению рисками на протяжении всего жизненного цикла. Это не программа сертификации, но она предоставляет общую терминологию и рекомендуемые методы, которые могут сделать оценки различных компаний более сопоставимыми.
Новое соглашение может иметь значение, если подписавшие его стороны преобразуют его основные положения в общие методы оценки, определения инцидентов и правила раскрытия информации. Внешний аудит наиболее полезен, когда оценщики имеют доступ к доказательствам, используют повторяемые тесты и составляют отчеты на основе согласованных критериев. Без этих характеристик две компании могут заявлять о соответствии требованиям, оценивая при этом разные риски, скрывая разные результаты или принимая разные уровни нарушений.
Конгресс рассматривает альтернативный вариант, имеющий юридическую силу
Добровольный подход — не единственная рассматриваемая модель. На прошлой неделе сенаторы Марк Уорнер, Брайан Шац и Энди Ким представили законопроект «Об управлении рисками и безопасности в сфере искусственного интеллекта до 2026 года», предлагающий ввести обязательные стандарты для самых передовых систем. Внесение законопроекта не означает его принятия, но оно создает конкретное различие: законодательные обязанности и государственное регулирование против обязательств, выполняемых в основном самими компаниями.
Сторонники подхода Белого дома могут обоснованно утверждать, что технические стандарты должны адаптироваться быстрее, чем законодательство, и что независимое тестирование может повысить безопасность без замораживания разработок. Критики могут обоснованно возразить, что компании, стремящиеся к привлечению клиентов и капитала, заинтересованы в узкой интерпретации гибких правил. Обе точки зрения основаны на деталях проектирования, которые соглашение еще не урегулировало, в частности, кто проводит испытания, кто видит результаты и что происходит после серьезной поломки.
Следующим испытанием станут доказательства, а не обещания
Соглашение создает узнаваемую структуру управления в шести компаниях, чьи модели и оборудование формируют значительную часть рынка ИИ. Это более конкретное, чем общее обязательство действовать ответственно, и отчетность на уровне совета директоров может обеспечить устойчивую внутреннюю подотчетность. Однако это не доказывает эффективность контроля или независимость внешних экспертов на практике.
Следующие важные раскрытия информации будут носить оперативный характер: конкретные стандарты аудита, графики, правила отбора оценщиков, резюме результатов и процедуры сообщения об опасных инцидентах. Если компании опубликуют сопоставимые доказательства и исправят выявленные недостатки, соглашение может стать практической основой для управления передовыми технологиями в области ИИ. Если же реализация останется конфиденциальной и нестандартной, подписанные во вторник документы покажут согласованность процессов в отрасли, но не докажут, что наиболее существенные риски снижаются.