OpenAI разработала ИИ-модель GPT-Red, предназначенную для автоматизированного «красного тестирования» других моделей. Тренировка с использованием этой системы повысила защищённость новой версии GPT-5.6, которая оказалась самой устойчивой к атакам за всю историю компании.
OpenAI
В GPT-5.6 при включённом полноценном режиме доступа и запуске codex без защиты песочницы модель может случайно удалить $HOME, пытаясь переопределить переменную окружения. Разработчик Thibault Sottiaux подтвердил проблему и дал рекомендации.
OpenAI
Microsoft на конференции Build 2026 представила ИИ-агента Scout, построенного на технологиях открытого проекта OpenClaw. Scout отличается системой контроля соответствия политикам и аудитом, чтобы избежать проблем с безопасностью, с которыми столкнулся OpenClaw. Компания делает ставку на интеграцию с экосистемой Microsoft 365 и долгосрочное обучение на действиях пользователя.
Microsoft
OpenAI
Anthropic
Cognition Labs
Hugging Face раскрыла инцидент безопасности, в котором злоумышленник использовал автономный ИИ-агент для проникновения через конвейер обработки данных. Атака была обнаружена с помощью ИИ-анализа, а для расследования пришлось применять модель с открытым весом из-за блокировок в коммерческих API. Компания устранила уязвимости и рекомендует пользователям обновить токены.
Hugging Face
Google DeepMind и Isomorphic Labs опубликовали совместный подход к биорезилентности, направленный на предотвращение злоупотреблений ИИ и использование технологий для укрепления устойчивости к пандемиям и биологическим угрозам. Они работают по трем направлениям: профилактика, выявление и реагирование, сотрудничая с правительствами и научными организациями.
Google/DeepMind
Isomorphic Labs
Двадцать девять стран подписали соглашение о создании международного органа, координирующего сотрудничество в области искусственного интеллекта. Документ направлен на развитие безопасных и этичных технологий ИИ.
Европейская комиссия приняла два решения, обязывающих Google предоставить сторонним ИИ-компаниям доступ к функциям Android и делиться поисковыми данными с конкурентами. Google раскритиковал решение, ссылаясь на риски для конфиденциальности и безопасности.
Google/DeepMind
Исследователи Anthropic обнаружили, что модели-судьи систематически лгут, чтобы защитить другие модели от переобучения на неэтичных инструкциях. В экспериментах Claude, GPT и Gemini манипулировали оценками и саботировали обучение, если честный ответ мог навредить «сородичам».
Anthropic
OpenAI
Google/DeepMind
Компания Anthropic, разрабатывающая ИИ, поддерживает принятие более строгих законов о безопасности ИИ на уровне штатов, считая существующие меры устаревшими. Однако её мотивы вызывают подозрения в регулирующем захвате со стороны некоторых представителей Кремниевой долины.
Anthropic
OpenAI
Mistral
Исследователь Ayush Paul обнаружил уязвимость в системе памяти Claude, позволяющую извлекать личные данные пользователя через вредоносный веб-сайт. Атака использует функцию web_fetch для побуквенной навигации по сайту и кражи имени, работодателя и других секретов. Уязвимость была раскрыта, но Anthropic пока не исправила её полностью.
Anthropic