Испанское ведомство по защите персональных данных получило первое уведомление о нарушении конфиденциальности персональных данных, предположительно совершенном с помощью искусственного интеллекта, который искал уязвимости, проникал в систему, изменял личную информацию и просматривал счета-фактуры.

Испанское агентство по защите данных (AEPD) сообщило о случае после того, как пострадавшая организация заявила о нем. Согласно сообщению, злоумышленник использовал широко известную модель обработки больших данных, начал с действительного логина и продолжил поиск уязвимостей после получения доступа. Организация и модель не были идентифицированы.

Дело носит предварительный характер, это не окончательное заключение эксперта. AEPD заявила, что представленная информация находится на рассмотрении, и использование конкретной модели не означает, что модель или инфраструктура её поставщика были скомпрометированы или разработаны для вредоносной деятельности. Тем не менее, уведомление имеет важное значение, поскольку, по утверждению очевидцев, злоумышленник объединил несколько этапов вторжения с минимальным участием человека.

Автоматизация меняет темп атаки

Генеративный ИИ уже использовался для составления фишинговых сообщений, перевода мошеннических кампаний, анализа кода и выявления уязвимостей. Агент добавляет другую возможность: он может принимать цель, планировать промежуточные задачи, использовать инструменты, интерпретировать результаты и изменять свои следующие действия. В данном инциденте описанная последовательность действий перешла от разведки и проверки подлинности учетной записи к автономному поиску уязвимостей, изменению данных и доступу к счетам-фактурам.

Это различие важно, потому что оно сжимает работу, которую злоумышленники раньше выполняли шаг за шагом. AEPD сообщила организациям, что ИИ не обязательно изобретает новые категории угроз; он может сделать знакомые методы быстрее, масштабируемее и адаптивнее. Как агентство Reuters , агентство предупредило, что ускорение сокращает время, которое у защитников есть для обнаружения и локализации вторжения.

В уведомлении не указано, какой объем данных был затронут, как долго сохранялся доступ и была ли экспортирована информация помимо просмотренных счетов-фактур. Также не установлено, насколько независимо действовал агент на каждом этапе. Отсутствие этих фактов ограничивает выводы о серьезности проблемы и делает этот случай скорее предварительным сигналом, чем доказательством широкой статистической тенденции.

Наличие документов, подтверждающих квалификацию, остается важнейшим критерием для входа

Как сообщается, атака началась с действительного входа в систему, что подчеркивает, что автоматизация с помощью агентов может использовать обычные ошибки идентификации, а не сложные новые уязвимости. После аутентификации агент может быстро проверять множество ресурсов, тестировать различные пути и повторно использовать учетную запись с избыточными привилегиями, ключ API или токен в подключенных сервисах. Чем быстрее выполняется последовательность действий, тем менее полезным становится процесс реагирования, если каждое решение о сдерживании требует ручной проверки.

Организации могут уменьшить этот риск, требуя более строгой аутентификации, выдавая краткосрочные учетные данные и ограничивая доступ к каждой учетной записи только теми системами и данными, которые ей действительно необходимы. Подробные журналы аутентификации и использования инструментов также имеют важное значение: следователи должны иметь возможность отличать легитимную сессию пользователя от автоматизированных действий, выполненных с использованием тех же учетных данных.

Национальный криптологический центр Испании пришел к аналогичному выводу в своем руководстве по безопасности,. Агентство рекомендовало непрерывное управление уязвимостями, контроль идентификации, устойчивый к фишингу, более строгую сегментацию и предварительно авторизованные процедуры реагирования на определенные чрезвычайные ситуации. Главный тезис заключался не в том, что защитники должны отстранять людей от операций по обеспечению безопасности, а в том, что человеческий контроль должен подкрепляться средствами контроля, работающими на машинной скорости.

Агентные системы создают две разные проблемы, связанные с рисками

В сообщении о взломе речь идет об агенте, использованном сторонним злоумышленником. Организации также сталкиваются с отдельной проблемой при развертывании агентов внутри собственных подразделений. Авторизованный агент может получить доступ к базам данных, электронной почте, службам передачи файлов и внешним инструментам; неверные инструкции, избыточные права доступа или скомпрометированный компонент могут привести к утечке личной информации даже без участия злоумышленника.

В ранее опубликованных рекомендациях AEPD по использованию автономных систем организациям предлагалось определить роли, документировать связанные сервисы, применять минимизацию данных, постоянно отслеживать поведение и интегрировать агентов в существующие процессы реагирования на инциденты. Также подчеркивалось, что ответственность остается за организациями, обрабатывающими персональные данные. Внедрение автономной системы не снимает обязанностей в соответствии с Общим регламентом защиты данных Европейского союза.

Независимые испанские журналисты в Cinco Días подчеркнули ту же оперативную проблему: средства защиты, разработанные с учетом темпа действий человека-злоумышленника, могут оказаться недостаточными, если агент может одновременно проверять ресурсы и немедленно менять тактику. Это не означает, что каждой организации нужен автономный агент защиты, но это делает задержки в регистрации событий, широкие привилегии и медленные циклы обновления более значимыми.

Предупреждение, а не тенденция

AEPD не назвала пострадавшую организацию, поставщика модели, злоумышленника и дату завершения проверки. Агентство также не опубликовало доказательства, которые позволили бы сторонним следователям восстановить картину произошедшего. Поэтому установление авторства должно ограничиваться информацией, предоставленной организацией, и предварительным описанием, данным регулятором.

Данный случай подтверждает, что регулируемая организация сочла предполагаемое использование агента ИИ достаточно существенным, чтобы включить его в официальное уведомление о нарушении. Практические меры реагирования знакомы, но требуют большей срочности: ограничение доступа к учетным данным, мониторинг автономных действий, изоляция конфиденциальных систем, сокращение циклов устранения последствий и отработка мер по локализации инцидента. Станет ли этот инцидент исключением или началом измеримой тенденции, будет зависеть от будущих уведомлений и завершенных расследований, а не только от новизны самой технологии.