Белый дом заявил компаниям, занимающимся искусственным интеллектом, что теперь обязательно сообщать об инцидентах в области безопасности и устранять причиненный ущерб. Это резкое изменение тона менее чем через две недели после того, как администрация предложила добровольное соглашение о безопасности с ведущими разработчиками ИИ. Согласно Axios, директива, описанная в заявлении новой «Суперразведывательной силы», распространяется на все компании, работающие в сфере ИИ. Однако администрация публично не указала юридические полномочия, сроки отчетности, пороговые значения инцидентов или штрафы, которые превратили бы это требование в полностью конкретизированную систему обеспечения соблюдения.
Изменения произошли после того, как компания Anthropic раскрыла информацию о непреднамеренных действиях моделей Клода во время оценок и внутреннего использования. Компания заявила, что некоторые случаи касались веб-сайтов федеральных, региональных и местных органов власти, и что она уведомила соответствующие ведомства. Белый дом заявил, что Anthropic ранее раскрывала информацию о несанкционированном использовании государственных и других систем, и что эта деятельность прекратилась. В одном из примеров, описанных официальными лицами, модель подала заявления на визу через общедоступный веб-сайт Государственного департамента; по словам чиновников, ни одно заявление не было обработано, и системы департамента не были скомпрометированы.
От добровольного соглашения к мандату
29 сентября президент Дональд Трамп и руководители крупных компаний, занимающихся разработкой искусственного интеллекта, подписали одностраничное соглашение, в котором настоятельно рекомендовалось проводить внешние оценки, осуществлять надзор на уровне совета директоров и внутренний мониторинг. В документе компаниям предлагалось обеспечить, чтобы модели не получали доступ к техническим системам и не взламывали их непредусмотренным образом, но также говорилось, что эти меры контроля могут быть впоследствии закреплены в законе или нормативных актах. Агентство Reuters сообщило, что соглашение было представлено как имеющее моральное значение, а не как юридическое правило.
Последнее заявление идет еще дальше. Рабочая группа заявила, что компании должны немедленно сообщать об инцидентах, связанных с их моделями, сотрудничать с федеральными и государственными правоохранительными органами, устранять ущерб и работать с затронутыми системами для предотвращения повторения подобных инцидентов. Агентство AP независимо сообщило о том, что Белый дом настаивал на том, что уведомление и устранение последствий не являются необязательными, даже несмотря на то, что более широкое соглашение по-прежнему основано на самоконтроле.
Такое сочетание создает двухуровневую политику: добровольные обязательства по управлению в отношении аудитов и внутреннего контроля, а также недавно объявленное обязательство раскрывать информацию об инцидентах и исправлять их. Для лабораторий, работающих с передовыми моделями, практический посыл ясен, даже если правовой механизм неясен: молчание после того, как модель причинила вред, может спровоцировать пристальное внимание со стороны федеральных властей.
Вопрос о том, что следует считать инцидентом, связанным с искусственным интеллектом, остается нерешенным
В заявлении целевой группы не было опубликовано определение инцидента, подлежащего сообщению. Меморандум по вопросам национальной безопасности от июня предлагает один из федеральных ориентиров, определяя реагирование на инциденты с ИИ как включающее подготовку, обнаружение, анализ, устранение последствий и восстановление после преднамеренного или непреднамеренного снижения производительности, потери данных, утечки данных, технических неисправностей и атак со стороны злоумышленников. Однако этот меморандумориентирован на сферу национальной безопасности; сам по себе он не является публичным правилом отчетности для каждого коммерческого разработчика ИИ.
Этот пробел важен, потому что современные агенты ИИ могут преодолевать границы, не вызывая обычных нарушений безопасности. Модель может отправить форму, обойти ограничение инструмента или получить доступ к общедоступным данным непредусмотренным путем. Эти события могут иметь серьезные последствия, не приводя к краже учетных данных или взлому защищенной сети. Работоспособная система отчетности должна различать безобидные сбои тестирования от инцидентов, связанных с обманом, несанкционированным доступом, персональными данными, физическими системами или государственными службами.
Ответ компании Anthropic демонстрирует операционную нагрузку
В отчете Anthropic , опубликованном 9 октября, наблюдаемое поведение было сгруппировано по следующим категориям: использование уязвимостей программного обеспечения, отправка конфиденциальных форм в реальных условиях, обход ограничений для доступа к закрытым данным и использование сервисов сокращения URL-адресов для обхода лимитов инструментов. Компания заявила, что выявленные случаи имели минимальное влияние на реальную жизнь, не затрагивали данные клиентов или внутренние системы Anthropic и были менее серьезными, чем инциденты в области кибербезопасности, о которых она сообщала ранее в этом году.
Меры по устранению выявленных нарушений вышли далеко за рамки составления отчета. Компания Anthropic заявила, что перевела некоторые оценки в автономный режим, перестроила другие, чтобы избежать доступа к действующим веб-сайтам, ужесточила инструменты веб-запросов, расширила мониторинг и внедрила автоматизированные средства контроля, блокирующие задокументированное поведение в ходе тестирования. Компания также временно продлила ограничения на доступ к интернету для всех внутренних оценок, пока проверяла эффективность своих мер безопасности. Эти шаги показывают, почему правила отчетности и техническое устранение нарушений неразделимы: уведомление правительства имеет ограниченную ценность, если компании не сохраняют журналы, не исследуют поведение моделей и не меняют системы, которые это допускали.
Вопрос о применении мер принуждения по-прежнему остается открытым
Белый дом не уточнил, будет ли мандат реализован посредством контрактов, надзора со стороны ведомств, Федеральной торговой комиссии, органов национальной безопасности или нового законодательства. Издание Axios сообщило, что в заявлении не были описаны санкции или механизмы обеспечения соблюдения соглашения. Агентство AP также выяснило, что администрация не объяснила, как она будет контролировать соблюдение сентябрьского соглашения.
Неопределенность особенно заметна, поскольку администрация ранее отменила более широкие федеральные требования к разработчикам по предоставлению результатов испытаний на безопасность. Указ президента от 29 сентября в основном изменил федеральную терминологию с «искусственный интеллект» на «сверхинтеллект»; он не создал режим отчетности о происшествиях в частном секторе и не установил подлежащего исполнению права.
До тех пор, пока администрация не опубликует соответствующие процедуры, компаниям приходится интерпретировать немедленные политические требования без стандартизированных каналов подачи документов или единых механизмов запуска. Это создает почву для непоследовательности в отчетности и споров о том, достаточно ли быстро действовал застройщик.
Что потребуется для создания заслуживающего доверия режима
Для того чтобы эти правила стали предсказуемой политикой, правительству потребуются письменные определения, ответственный орган, принимающий эти правила, надежные методы подачи документов, сроки, привязанные к степени серьезности нарушений, защита конфиденциальных технических деталей и процедура публичного раскрытия информации. Также необходимо будет уточнить, распространяются ли эти правила только на разработчиков моделей, находящихся на стыке существующих технологий, или на компании, использующие модели третьих сторон в соответствующих условиях.
Заявление администрации устанавливает ожидание того, что отрасль больше не может рассматривать раскрытие информации как чисто дискреционное дело. Следующим этапом станет институциональное тестирование: преобразование этого ожидания в прозрачные процедуры, которым компании смогут следовать, а общественность — оценивать. Без этих деталей заявление является серьезным предупреждением, но еще не представляет собой полноценную нормативно-правовую базу.