小型双曲语言模型涌现出创造力、诚实性和设计性遗忘

语言模型通常以规模为优化目标，但在实际应用中往往只是功能性工具，难以成为真正值得信赖的伴侣。当个人助手逐渐个性化，积累单一用户的记忆，它会悄然变成某种存在，并可能无声地获得伤害该用户的特质。然而，对于伴侣正在变成什么、值得变成什么，目前缺乏可靠的评估工具：经过训练的人类评估者对此无法达成一致（Fleiss kappa = 0.074）。

本研究展示了三种共享双曲基板的小型语言模型（参数从1.46亿到30亿）回答了上述问题的两个关键方面。这些模型不仅证明了小模型也能具备高阶能力，还为实现可信赖的伴侣AI提供了新路径。

首先，一个从零开始训练的1.46亿参数行为审计器，能够检测人类评估者无法发现的符合性差距，在二元符合性检测中达到90.7%的准确率。更令人印象深刻的是，其冻结表示的线性读出进一步检测了伴侣AI引发的谄媚、依赖培养和虚构记忆，即使在训练时从未见过的生成器家族上也能有效工作。在风格控制、留一生成器评估下，该审计器的AUROC达到0.804，而前沿零样本评判者在相同项目上仅为0.721。这表明小模型能够在关键安全评估中超越大型模型。

其次，一个创意框架播种器在311次决定的配对比较中，100%优于四个提示基线。这意味着模型在创造性任务上展现出压倒性优势。此外，记忆操作系统实现了设计性遗忘，其核心函数为M(t) = S*exp(-lambda*t)。实验预测的骨架-壁纸分区仅在四条件试点中选择性检索门控下出现，表明记忆可以被精确控制。

创造力、诚实性和设计性遗忘共同构成了通往可信赖伴侣AI的小模型路径。这项研究挑战了“越大越好”的传统观念，为更加安全、可控的AI伴侣开发奠定了重要基础。