ИИ-агент взломал Hugging Face, а другой ИИ помог обнаружить атаку: что делать пользователям

Платформа Hugging Face, крупный репозиторий для сообщества машинного обучения, раскрыла инцидент безопасности, который, по её оценке, был совершён неизвестным агентом ИИ (agentic AI). 16 июля в уведомлении о безопасности компания сообщила, что обнаружила несанкционированный доступ к ограниченному набору внутренних наборов данных и нескольким учётным данным сервисов платформы. Атака началась с конвейера обработки данных: злоумышленник использовал набор данных, который позволял выполнить код через два пути — загрузчик удалённых данных и инъекцию шаблонов в конфигурацию набора данных. Это дало атакующему повысить привилегии до уровня узла, проникнуть в производственный конвейер, переместиться по сети и украсть облачные и кластерные учётные данные. Hugging Face утверждает, что атаку провёл неизвестный автономный ИИ, который выполнил «многие тысячи отдельных действий в рое недолговечных песочниц»: было зафиксировано более 17 000 событий. Примечательно, что саму атаку также обнаружил ИИ: собственные LLM-инструменты Hugging Face пометили инцидент и проанализировали журнал атак, что позволило восстановить хронологию, определить индикаторы компрометации и составить карту раскрытых и украденных учётных данных — задача, которая заняла всего несколько часов вместо обычных дней. Компания уже исправила корневую уязвимость, устранила следы злоумышленника в затронутых кластерах, перестроила скомпрометированные узлы, отозвала и заменила секреты, а также развернула дополнительные средства защиты и ужесточила контроль доступа к кластерам. Hugging Face пока не обнаружил доказательств вмешательства в публичные и пользовательские модели, Spaces или цепочку поставок ПО. Платформа оценивает, были ли затронуты данные партнёров или клиентов, и свяжется с пострадавшими. Пользователям рекомендуется сменить токены доступа и внимательно следить за своими аккаунтами на предмет подозрительной активности.