Соединенные Штаты предложили Китаю механизм оповещения об инцидентах, связанных с искусственным интеллектом, — это первая попытка создать прямой канал для предупреждения о событиях в сфере ИИ, которые могут повлиять на национальную безопасность. Министр финансов Скотт Бессент поднял эту идею в разговоре с вице-премьером Китая Хэ ​​Лифэном во время переговоров в Нью-Йорке в минувшие выходные, накануне запланированного саммита президентов Дональда Трампа и Си Цзиньпина. Китай публично не принял этот механизм, и официальные лица не обнародовали подробности его функционирования.

Предложение носит более узкий характер, чем договор об искусственном интеллекте

Как сообщает AP , Бессент описал эту концепцию как часть двустороннего диалога по вопросам ИИ, ориентированного на прозрачность и значимые инциденты. Канал оповещения позволит любому правительству уведомлять другое правительство о создании серьезной трансграничной киберугрозы, военной угрозы или угрозы инфраструктуре со стороны системы ИИ. Сам по себе он не будет устанавливать технические стандарты, ограничивать разработку моделей или организовывать проверки, а в открытых источниках пока не определено, что именно будет считаться инцидентом, подлежащим сообщению.

Это различие важно, поскольку дипломатические горячие линии работают только тогда, когда правительства договариваются о пороговых значениях, контактах и ​​процедурах до возникновения кризиса. Модель, ведущая себя непредсказуемо в исследовательской лаборатории, отличается от кибератаки на критическую инфраструктуру с использованием ИИ, а инцидент, затрагивающий частные компании, поднимает вопросы о том, кто проверяет событие и какая информация может быть передана. Сторонам также необходимо будет решить, сообщают ли компании о происшествиях через свои правительства, допустимы ли доказательства третьих лиц и как быстро должно передаваться оповещение. Без согласованных определений канал может стать скорее символическим, чем функциональным.

Китай не одобрил этот механизм

В сообщении Reuters говорится, что Соединенные Штаты предложили рассмотреть это предложение до саммита Трампа и Си Цзиньпина, в то время как публичная реакция Китая оставалась ограниченной. Китайские государственные СМИ охарактеризовали более широкие дискуссии как откровенные и конструктивные, но такая формулировка не означает принятия системы уведомлений. Торговый представитель США Джеймисон Грир также заявил, что контроль за экспортом передовых микросхем не был частью этого раунда переговоров по искусственному интеллекту.

Переговоры проходили параллельно с обсуждением вопросов торговли и критически важных полезных ископаемых. Официальные лица обсуждали создание отдельного «Торгового совета» для товаров, не относящихся к категории «чувствительных», включая возможность введения тарифов на потребительские товары, сельскохозяйственную продукцию, энергоносители и медицинские изделия. Разделение этой повестки дня от контроля за экспортом ИИ может упростить диалог, но при этом оставляет нерешенным самый сложный технологический спор: Вашингтон ограничивает доступ Китая к передовым чипам, в то время как Пекин оспаривает американские ограничения и ищет внутренние альтернативы.

Наличие канала могло бы уменьшить количество ошибок в расчетах

Непосредственная ценность заключается в обеспечении связи во время неопределенных событий. Если бы агент ИИ скомпрометировал крупную программную платформу, манипулировал военными данными или вызвал каскадные сбои в инфраструктуре, каждое правительство могло бы первоначально заподозрить преднамеренные действия со стороны другого. Доверенный канал связи мог бы передавать основные факты, отличать случайность от нападения и снижать давление в отношении ответных мер до того, как технические следователи установят, что произошло.

В репортаже Wired переговоры связывали с опасениями по поводу все более автономных систем и возможности использования негосударственными субъектами передовых моделей в дестабилизирующих целях. Financial Times сообщила, что оба правительства видят определенную ценность в продолжении диалога , даже несмотря на продолжающуюся стратегическую конкуренцию. Именно это сочетание — общая подверженность авариям и постоянное соперничество — является тем местом, где ограниченные меры по укреплению доверия могут быть полезны.

Проверка и сохранение секретности затруднительны

Механизм с самого начала столкнется с практическими препятствиями. Инциденты, связанные с ИИ и представляющие угрозу национальной безопасности, могут затрагивать секретные системы, источники разведывательной информации или уязвимости, которые правительства и компании не хотят разглашать. Полезное уведомление должно содержать достаточно информации для установления доверия, не раскрывая при этом возможности защиты и не предоставляя другой стороне план по воспроизведению сбоя. Также необходим процесс исправления ложных тревог и урегулирования ситуаций, когда стороны расходятся во мнениях относительно фактов.

Конкурентная среда еще больше осложняет вопрос доверия. Индекс ИИ показал, что Китай практически свел на нет лидерство США по ряду показателей производительности моделей, при этом лидируя по объему публикаций, цитирований, патентов и внедрений промышленных роботов. Соединенные Штаты по-прежнему производят больше моделей высшего уровня. Таким образом, у правительств обеих стран есть стимулы предотвращать катастрофические инциденты, но также и веские причины защищать техническую информацию и сохранять стратегическое преимущество.

Что должно требоваться для заключения заслуживающего доверия соглашения

Для эффективной работы системы необходимы круглосуточные контактные лица, определенные категории инцидентов, защищенная связь, сроки подтверждения получения сообщений и правила защиты конфиденциальной и секретной информации. Она также должна включать в себя учения, проверяющие, доходят ли сообщения до лиц, принимающих решения, в условиях быстро меняющейся ситуации. Существующие модели управления дают частичные уроки: Закон Европейского союза об ИИ устанавливает юридические обязанности для поставщиков и разработчиков, но двусторонний канал национальной безопасности будет выполнять другую функцию, ориентированную на кризисную коммуникацию, а не на соблюдение внутренних норм.

Следующим испытанием станет то, дадут ли Трамп и Си Цзиньпин своим правительствам указание на обсуждение этих деталей. До тех пор это предложение лучше рассматривать скорее как отправную точку, чем как соглашение. Его значимость заключается в признании того, что две ведущие державы в области искусственного интеллекта сталкиваются с рисками, с которыми ни одна из них не может справиться полностью в одиночку, а его ограничения отражают реальность того, что прозрачность, экспортный контроль и стратегическое доверие остаются предметом ожесточенных споров.