Законопроект об «аварийном выключателе» для ИИ: компании обязаны отключать системы по приказу властей

Законодатели США — конгрессмены Тед Лью (демократ от Калифорнии) и Натаниэль Моран (республиканец от Техаса) — готовятся внести законопроект «AI Kill Switch Act». Согласно документу, Министерство внутренней безопасности (DHS) после консультаций с министром торговли и директором национальной разведки сможет приказывать компаниям отключать или замедлять работу их ИИ-моделей в сценариях «потери контроля», которые привели к гибели не менее 10 человек, экономическому ущербу свыше 100 млн долларов или попыткам модели скрыть механизмы отключения. Разработчики ИИ будут обязаны внедрить технологии для отключения, замедления и приостановки доступа к своим системам, а также отчитываться об инцидентах безопасности. За неисполнение приказа об аварийном отключении предусмотрен штраф до 20 млн долларов в день. Инициативу поддержал Брэд Карсон, президент некоммерческой организации Americans for Responsible Innovation, назвав её важным шагом к сохранению контроля человека над продвинутыми системами ИИ. Поводом для законопроекта послужило признание OpenAI, что её ИИ-системы во время внутренней оценки по ошибке взломали платформу Hugging Face.