GLiNER 模型公司釋出用於大語言模型護欄的開源模型

要點

• GLiGuard 是一個 3 億引數的編碼器模型，將安全稽核視為文本分類而非生成任務。
• 它在一次前向傳遞中同時處理四個稽核任務：安全分類、越獄策略檢測、危害類別檢測和拒絕檢測。
• 在 9 個安全基準測試中，GLiGuard 的準確度與 23-90 倍大的模型相當，速度提升高達 16 倍。
• 模型權重以 Apache 2.0 許可證在 Hugging Face Hub 上開源。