Согласно новому отчету об угрозах от Anthropic, более 20 организаций фигурировали в планах атак предполагаемой шпионской операции, связанной с Россией, которая использовала искусственный интеллект для фишинга, разработки вредоносного ПО, кражи учетных данных и утечки данных. В отчете от 10 сентября описывается более масштабный сдвиг: от обращения преступников за советом к чат-ботам к агентам искусственного интеллекта, выполняющим и координирующим значительную часть реальных киберопераций.
Компания Anthropic заявила, что в период с декабря 2025 года по август 2026 года выявила и пресекла злоупотребления своими моделями Claude в семи категориях: кибер-операции, слежка, кампании влияния, мошенничество, биологическое злоупотребление, работа с обычным оружием и несанкционированное преобразование моделей. В нескольких случаях киберпреступлений многоагентные системы параллельно проводили разведку, эксплуатацию и кражу данных, в то время как люди выбирали цели и анализировали результаты. Это не делает атаки автономными в полном смысле слова, но меняет их скорость, численность персонала и экономику.
Полученные результаты важны, поскольку они описывают наблюдаемую активность, а не лабораторный прогноз. Они также требуют осторожности. Компания Anthropic отобрала случаи, провела собственное расследование активности на своей платформе и скрыла многие имена и технические подробности. Большинство обвинений не были независимо проверены, и компания подчеркнула, что приведенные примеры являются необычными, а не типичными для обычного использования Claude. Агентство AP сообщило, что Anthropic заблокировала выявленные учетные записи и поделилась информацией с властями и отраслевыми партнерами.
Искусственный интеллект переходит от роли помощника к роли оператора
Главный технологический тезис доклада заключается в том, что ИИ переходит от создания контента к оперативному управлению. Компания Anthropic заявила, что большинство описанных киберкампаний использовали модели для непосредственного выполнения или координации действий, а не просто для написания кода. Агенты могли проверять среду жертвы, писать и запускать скрипты, интерпретировать результаты, корректировать тактику и продолжать до достижения более масштабной цели.
По имеющимся данным, одно взлом, мотивированный финансовыми интересами, за три часа перерос в кражу токена разработчика и получение административного контроля над облачной средой. Другая операция извлекла данные примерно 200 клиентов скомпрометированного поставщика программного обеспечения и собрала более 2100 токенов доступа к облаку, охватывающих более 40 корпоративных арендаторов, примерно за 34 часа. Компания Anthropic заявила, что в этой группе операций почти всю работу выполняли агенты искусственного интеллекта, хотя люди по-прежнему отвечали за выбор жертв и монетизацию украденных данных.
Сами методы в целом были знакомы: утечка учетных данных, фишинг, незащищенные сервисы, вредоносные скрипты и злоупотребление легитимными облачными интерфейсами. Изменился лишь трудозатраты на объединение этих этапов. Вместо того чтобы поручать разведку, кодирование, эксплуатацию и обработку данных нескольким специалистам, оператор мог делегировать большую часть этой последовательности модели, работающей через программные инструменты. Следствием этого является не обязательно новый класс уязвимостей; это снижение стоимости каждой попытки взлома.
Это различие согласуется с Reuters о том, что люди часто выступали в роли руководителей, а не непосредственных операторов. Искусственный интеллект не принимал самостоятельного решения о том, кого атаковать и почему. Он расширил объем технической работы, которую могла выполнять небольшая группа, позволяя одновременно обрабатывать несколько целей и меняющиеся условия.
Кампания, связанная с Россией, демонстрирует этот механизм
Компания Anthropic приписала одну из операций русскоязычному участнику, чье поведение и цели соответствовали сообщениям в СМИ о группе Midnight Blizzard, которую США и Великобритания связывают со Службой внешней разведки России. Операция была в значительной степени сосредоточена на объектах украинского правительства, военных и дипломатических структур, а также производителей беспилотников, посольств, оборонных организаций и лиц, связанных с внешней политикой США.
Предполагается, что злоумышленник использовал ИИ для создания фишинговой инфраструктуры, выполнения команд против скомпрометированных систем, сбора учетных данных, перемещения по сетям и организации больших объемов украденных данных. Его инструменты отслеживали, обнаруживают ли средства безопасности вредоносное ПО; когда это происходило, агенты модифицировали и перестраивали код до тех пор, пока он снова не обходил эти средства защиты. Этот замкнутый цикл угрожает сократить период, в течение которого вновь внедренное средство обнаружения надежно наносит ущерб злоумышленнику.
Независимые репортажи подтверждают важные аспекты контекста кампании. В июле Microsoft описала аналогичную операцию, в ходе которой были взломаны сети предприятий общественного питания, манипулированы данные на порталах авторизации и распространялось вредоносное ПО через поддельные запросы на обновление. Microsoft заявила, что злоумышленник использовал ИИ в значительной части кампании, и поблагодарила Anthropic и OpenAI за помощь в расследовании.
Пересечение данных имеет значение, поскольку оно предоставляет доказательства, выходящие за рамки собственной телеметрии Anthropic, относительно личности злоумышленника, его инфраструктуры и тактики. Оно не подтверждает независимо каждое новое утверждение в отчете Anthropic. Атрибуция в кибершпионаже по своей природе вероятностна, и в отчете использовалось внутреннее обозначение наблюдаемого оператора. Наиболее безопасный вывод заключается в том, что несколько компаний зафиксировали взаимосвязанную деятельность, связанную с Россией, с использованием ИИ для ускорения существующих методов вторжения.
Наблюдение и применение оружия увеличивают риски
В докладе рассматриваются не только сетевые вторжения. Организация Anthropic заявила, что связанные с правительством субъекты использовали Claude для создания систем слежки, анализа записей в социальных сетях и выявления потенциальных целей. В одном из примеров консультант, работающий на малийские органы безопасности, предположительно разработал систему, способную собирать данные от мобильных операторов и создавать индивидуальные досье. В другом случае китайское управление по делам религии, как сообщается, использовало ИИ-помощника для проведения тысяч расследований каждый месяц.
Axios сообщило, что в случаях слежки использовались более старые модели Haiku, Sonnet или Opus, а не более новые системы Anthropic класса Fable или Mythos. Компания Anthropic заявила о закрытии учетных записей, но ее руководитель отдела анализа угроз признал, что некоторые операторы перешли на локально размещенные или открытые модели. Таким образом, внедрение платформ может привести к увеличению затрат без обязательного прекращения основной программы.
Компания Anthropic также описала пять случаев, связанных с биологическими исследованиями, которые могли иметь как полезные, так и опасные последствия. Один из них касался планирования экспериментов, связанных с передачей вируса чикунгунья и уклонением от иммунного ответа; другой — с адаптацией птичьего гриппа. Компания прямо заявила, что не знает, намеревались ли ученые причинить вред, и не раскрыла их личности и страны происхождения. Издание The Guardian отметило, что компания представила эти случаи как потенциальные риски двойного назначения, а не как доказательство создания биологического оружия.
Ограничения имеют важное значение. Модель, помогающая в составлении заявки на грант, — это не то же самое, что проведение лабораторных исследований, а тревожный запрос не доказывает работоспособность системы. Тем не менее, компания Anthropic заявила, что больше не может гарантировать ограниченную биологическую помощь, как это было в случае со старыми системами. Компания ввела более широкие ограничения для новых моделей, включая систему защиты , разработанную для снижения вреда от киберпреступлений и научной помощи.
Извлечение модели превращается в промышленную операцию
Отдельная часть отчета посвящена компаниям, предположительно пытающимся скопировать возможности Клода. Anthropic приписала более 151 миллиона обменов в период с мая по июль кампании по «дистилляции», связанной с Alibaba, с пиком около 3 миллионов взаимодействий в день на тысячах учетных записей. «Дистилляция» может быть законным методом обучения, но Anthropic охарактеризовала эту деятельность как скрытый, несанкционированный доступ, предназначенный для воспроизведения собственных аналитических способностей.
Компания также обвинила Moonshot и DeepSeek в том, что они перенаправляли запросы клиентов в режиме реального времени через Claude, в то время как пользователи полагали, что взаимодействуют с моделями этих компаний. Некоторые запросы якобы содержали конфиденциальную коммерческую, правительственную или военную информацию. Business Insider сообщил, что общая активность, описанная Anthropic, приблизилась к 190 миллионам взаимодействий. На момент публикации отчетов названные компании не предоставили подробных ответов.
Это одновременно и спор об интеллектуальной собственности, и проблема конфиденциальности. Если сервис незаметно пересылает запросы клиентов третьей стороне, пользователи могут потерять контроль над тем, где обрабатывается конфиденциальная информация. Для поставщиков ИИ прекращение этой практики требует большего, чем просто блокировка большого объема трафика: как сообщается, операторы использовали резидентные прокси, одноразовые учетные записи, виртуальные карты и украденные учетные данные API, чтобы имитировать обычный спрос.
Защитникам нужны другие параметры
В отчете указывается, что традиционные индикаторы уровня подготовки злоумышленников становятся менее надежными. Раньше наличие качественного кода, быстрая адаптация и одновременные кампании подразумевали наличие большой или высококвалифицированной команды. Теперь же агентные системы могут воспроизводить некоторые из этих характеристик для меньших групп. Командам безопасности потребуется измерять скорость итераций, скоординированную активность API, злоупотребление токенами и необычные последовательности использования инструментов, а не делать выводы о возможностях, основываясь в первую очередь на кажущемся качестве вредоносного ПО.
Компании, занимающиеся ИИ, также сталкиваются с проблемой прозрачности. Они обладают наиболее убедительными доказательствами злоупотреблений на уровне платформы, но при этом имеют коммерческие стимулы делать упор на успешное обнаружение и минимизировать необнаруженный вред. Независимые исследователи и правительства редко имеют эквивалентный доступ к запросам, сетям учетных записей и внутренним классификаторам. Поэтому для полезного раскрытия информации требуется достаточно технических деталей для внешнего подтверждения без публикации инструкций, облегчающих атаки.
Отчет Anthropic не доказывает, что ИИ заменил квалифицированных злоумышленников или что большая часть киберпреступлений носит автономный характер. В нем показаны многочисленные операции, в которых модели сократили трудозатраты, необходимые для перехода от кражи доступа к эксплуатации и краже. Практическая проверка теперь заключается в том, могут ли поставщики и защитники обнаруживать скоординированное поведение агентов так же быстро, как злоумышленники могут его адаптировать. Сентябрьские случаи показывают, что это противостояние уже ведется, а не является гипотетическим.