跳到主要内容
AI News HubLIVE
更多
仅摘要

GLiNER 模型公司发布用于大语言模型护栏的开源模型

Fastino Labs 推出 GLiGuard,一个 3 亿参数的开源小语言模型,用于安全审核。该模型将安全审核转化为分类问题,在单个前向传递中评估多个安全维度,速度比当前最先进的解码器模型快 16 倍,准确度与 23 到 90 倍大的模型相当。

来源Hacker News AI作者: neon_share1
GLiNER 模型公司发布用于大语言模型护栏的开源模型
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明

本文仅提供摘要

根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。

展开要点与分析

文章情报

工程师进阶

要点

  • GLiGuard 是一个 3 亿参数的编码器模型,将安全审核视为文本分类而非生成任务。
  • 它在一次前向传递中同时处理四个审核任务:安全分类、越狱策略检测、危害类别检测和拒绝检测。
  • 在 9 个安全基准测试中,GLiGuard 的准确度与 23-90 倍大的模型相当,速度提升高达 16 倍。
  • 模型权重以 Apache 2.0 许可证在 Hugging Face Hub 上开源。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。