语言模型已经从不可靠的文本生成器,演变为拥有数万亿参数的高能力大型模型。能力的提升与规模的扩大相伴而行,这也使得理解模型的内部表示变得更加困难。随着数百万用户日益依赖语言模型与外部工具交互,或在中等乃至高风险场景中做出决策,我们既需要建立对模型行为的控制,也需要知道何时应当信任模型的输出。
这篇论文由 Nishant Subramani 撰写,提交于 2026 年 6 月 30 日,被 ACL 2026 的 BigPicture Workshop 接收,属于计算与语言(cs.CL)方向,同时涉及人工智能(cs.AI)与机器学习(cs.LG)。论文的核心主张是:通过驾驭模型的潜在空间,可以同时服务于“控制”与“信任”两个目标。
在控制方面,作者提出使用“引导向量”(steering vectors)来操控模型行为。这类向量作用于模型的潜在表示空间,使研究者能够在不重新训练模型的情况下,对模型的输出倾向进行干预和调节,从而在需要时对模型行为施加约束或引导。
在信任方面,作者开发了基于潜在空间的“模型校准器”(model calibrators)。校准器利用模型内部表示来判断输出是否可靠,帮助用户和系统在中等或高风险决策场景中评估何时应当采信模型给出的结果。
作者指出,这两项贡献共同有助于揭开语言模型潜在空间的神秘面纱,并为如何利用模型内部机制构建更可信的语言技术提供了新的见解。论文的摘要强调,随着模型规模与能力持续增长,理解内部表示愈发困难,而潜在空间正是连接控制与信任的关键切入点。
论文全文以 PDF 形式发布在 arXiv 上,编号为 arXiv:2607.00083v1,DOI 为 https://doi.org/10.48550/arXiv.2607.00083,由 DataCite 颁发。提交历史显示,该版本于 2026 年 6 月 30 日 19:21:46 UTC 上传,文件大小约 14,778 KB。论文还提供了 TeX 源码与相关引用工具链接,方便后续研究复现与引用。