LLM-шлюз

Цикл о собственном LLM-шлюзе: как выбирать модель под запрос и как проверять входящие запросы guardrails до вызова модели.

AI & Агенты 11 мин

SurfCap-α: как семантический роутер выбирает модель

Как собственный LLM-шлюз по model=auto выбирает класс модели: детерминированные правила, ML-слои, которые могут только повысить тир, и инвариант резидентности. T0 выбирается за 0.7 мс.

26 октября 2026 Читать →

AI & Агенты 13 мин

Guardrails в LLM-шлюзе: почему Shieldstral

Проверка входа LLM-шлюза на Shieldstral-3B и судье: своя текстовая политика, русский язык, +40–55 мс к запросу и правило, при котором легитимные запросы с персональными данными не блокируются.

26 октября 2026 Читать →