{"id":"post:guardrails-shieldstral","type":"post","title":"Guardrails в LLM-шлюзе: почему Shieldstral","url":"/posts/guardrails-shieldstral","md":"/posts/guardrails-shieldstral.md","summary":"Проверка входа LLM-шлюза на Shieldstral-3B и судье: своя текстовая политика, русский язык, +40–55 мс к запросу и правило, при котором легитимные запросы с персональными данными не блокируются.","llm_summary":"Вторая статья цикла «LLM-шлюз». Guardrails проверяют весь клиентский ввод (реплики, system-промпт, историю, результаты инструментов) перед вызовом модели. Выбран Shieldstral-1.0-3B: понимает русский, принимает политику текстом, отвечает одним токеном (калиброванная вероятность по логпробам) и помещается на занятую GPU. Вердикт выносят два фактора: Shieldstral задаёт зону по p, 4B-судья Plumb-4B с ограниченным декодированием решает внутри неё и имеет право вето в диапазоне 0.70 ≤ p \u003c 0.97. Длинный вход проверяется окнами по 3000 символов с фокус-окнами вокруг паттернов инъекций. Политика хранится версиями в БД, секреты ищет отдельный детерминированный детектор, при недоступности классификатора режим fail-open с алертом. Добавка к задержке 40–55 мс; на регрессионном наборе из 58 синтетических кейсов правильно отработано 56.","domains":["ai","architecture"],"tags":["llm-gateway","guardrails","security","llm"],"date":"2026-10-26T10:00:00+03:00"}