GLiGuard

Небольшая языковая модель для модерации безопасности в LLM. В 16 раз превосходит предыдущую #SOTA

• классифицирует промпты на safe/unsafe
• проверяет безопасность ответов
• детектирует отказы
• определяет категории вреда (14 типов)
• выявляет стратегии джейлбрейка (11 типов)

0,3 B, точность на уровне моделей в 23–90 раз крупнее

Подходит для быстрой модерации контента

Выпустили какую-то еще одну #SLM побивающую OpenAI, но я так и не понял какую и она неопесорс

Статья на X
Гитхаб
HF
pioneer - кстати раздают инференс на $75 на Opus4.7 до 1 августа

#security #safety #giveaway

MemPrivacy

Защита конфиденциальных данных в памяти облачных агентов. Базовая модель Qwen3‑4B

• применяет локальную обратимую псевдонимизацию
• заменяет PII типизированными плейсхолдерами (например, [ИМЯ_ПЕРСОНЫ])
• сохраняет семантическую полезность данных для поиска в памяти
• восстанавливает оригинальные значения локально после обработки в облаке

Гитхаб
HF

#security #safety #privacy #agent