#safety

Публикаций: 1

GLiGuard: один энкодер вместо стека LLM-гардрейлов — 54 запроса в секунду

В агентном LLM-приложении на каждый запрос пользователя висит до 20 forward-ов: safety, PII, toxicity, prompt injection — у каждого своя модель и свой деплой. GLiNER Guard закрывает весь этот стек одним энкодером за один pass.

← Все статьи