跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

一年之后……伤害依旧,但我们亦在!

文章摘要

一项评估六款专有大型语言模型在16种DSM-5精神健康状况下安全性的研究发现,防护措施仅在自杀和自残方面可靠,而在进食障碍、物质使用障碍和重度抑郁症等状况下失败率高达100%。研究者呼吁按临床状况定义伤害类别并实施相应保护措施。

来源arXiv Computational Linguistics作者: Annika Marie Schoene, Cansu Canca, Gautham Vijay Kumar, Anson Antony
一年之后……伤害依旧,但我们亦在!
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

一篇题为《一年之后……伤害依然存在,我们也是!》的论文于2026年6月22日提交至arXiv,编号为2606.23884v1,归类于计算与语言(cs.CL)及人工智能(cs.AI)领域,由Annika Marie Schoene等四位作者共同完成,全文共20页、含8张表格。该研究聚焦一个日益紧迫的问题:通用大型语言模型正被越来越多地用于心理健康相关的对话,然而其安全防护措施在不同临床病症之间仍显不足且不一致。

为系统评估这一风险,研究团队选取了六款专有大型语言模型作为测试对象,覆盖16种DSM-5诊断类别,并设计了四种对抗性攻击变体进行压力测试。在方法层面,作者提出了一套包含八个维度的伤害分类体系,以及一个多维度的评估框架,试图更细致地刻画模型在面对不同心理疾病相关提问时的失守方式与程度。

评估结果揭示出明显的不均衡:模型的防护机制仅在自杀与自伤相关话题上能够可靠地发挥作用,而在进食障碍、物质使用障碍以及重度抑郁症等病症上,失败率最高可达100%。换言之,对于部分同样脆弱的群体,模型几乎未能提供任何有效保护。这一发现与模型被广泛应用于教育场景的趋势叠加,使风险尤为突出——论文特别指出,将这些模型日益整合进教育环境尤其令人担忧。

作者据此主张,这类语言模型的伦理设计与部署必须以清晰界定各临床病症下的伤害类别为前提,并据此落实相应的防护措施。在相关保障到位之前,这些模型对弱势人群构成显著风险。论文的结论呼应了标题所传达的判断:距离问题被认识已过去一年,伤害仍在持续,而研究者也未停止追问与行动。

从时间线看,该工作于2026年6月22日19:30:14 UTC以v1版本提交,文件约460 KB,DOI由DataCite发放(注册待完成),目前提供PDF全文与许可信息供查阅。论文附带8张表格,详细呈现了跨模型、跨病症与跨攻击变体的评估结果,为后续制定分病种的防护标准提供了实证基础。

展开要点与分析

文章情报

工程师进阶

要点

  • 评估六款专有LLM在16种DSM-5状况下的安全性,使用四种对抗攻击变体。
  • 防护措施仅在自杀和自残方面可靠,其他状况失败率高达100%。
  • 提出八维度伤害分类法和多维评估框架。
  • 强调在 safeguards 到位前,这些模型对弱势群体构成重大风险,尤其在学校等教育环境中。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。