Cloud.ru открыл исходный код Guardrails Filter для защиты данных при работе с LLM

Cloud.ru выложил в открытый доступ исходный код Guardrails Filter — прозрачного обратного прокси, который работает между клиентом и LLM-провайдерами. Инструмент обнаруживает чувствительные данные (имена, адреса, номера телефонов, ИНН, паспортные данные, API-ключи и др.) в запросах к моделям, заменяет их на заглушки, а затем восстанавливает оригинальные значения в ответах. Решение доступно в двух вариантах: standalone-сервис на Go (поднимается одной Docker-командой) и ext_proc-сайдкар для Envoy. Оба варианта содержат около 260 встроенных правил, включая проверки российских персональных данных с контрольными суммами (СНИЛС, ИНН, ОГРН) и каталог секретов на основе gitleaks. Поддерживается хранение заглушек в оперативной памяти, Redis или PostgreSQL с возможностью шифрования. Инструмент корректно обрабатывает потоковый SSE-ответ (токен за токеном) и tool-calls. Встроена веб-консоль с журналированием, режим Ghost Mode для тестирования, метрики Prometheus и дашборды для Grafana. По результатам тестов на трёх PII-датасетах: precision 92–99.9%, per-type recall 75–87%, F1-score 82–93%. Cloud.ru отмечает, что это единственное решение среди аналогов (LiteLLM+Presidio, Kong AI Gateway, Portkey, NeMo Guardrails), которое полностью восстанавливает данные в ответе, включая потоковый режим и аргументы вызова инструментов.