Инвестиции в исследования безопасности мультиагентных ИИ-систем

Google DeepMind вместе с Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA) и при поддержке Google.org запускает программу финансирования исследований в области безопасности мультиагентного ИИ объёмом до $10 млн. По мере масштабирования ИИ-технологий миллионы агентов от разных разработчиков будут взаимодействовать в цифровых средах, общаясь, ведя переговоры и совершая транзакции. Без надлежащих мер безопасности такое взаимодействие может порождать непредсказуемое коллективное поведение и новые угрозы. Программа фокусируется на четырёх приоритетных направлениях: создание тестовых сред (sandboxes) для оценки мультиагентных систем; изучение свойств безопасности агентных сетей; стресс-тестирование межплатформенных протоколов идентификации, репутации и обязательств; а также разработка методов контроля и смягчения коллективных рисков в масштабе. Заявки принимаются до 8 августа 2026 года, результаты объявят осенью 2026-го.