小型双曲言語モデルに現れる創造性、誠実性、設計された忘却

言語モデルは通常、スケールのために最適化されているが、機能的であるだけで伴侶的ではない。アシスタントがパーソナライズして伴侶になるにつれ、一人のユーザーの記憶を蓄積し、静かに誰かになり、そのユーザーを害する特性を静かに獲得する可能性がある。伴侶が何になりつつあるのか、何になる価値があるのかについて、信頼できる手段はない。訓練された人間の評価者は答えに同意できない（Fleiss kappa = 0.074）。

本研究では、双曲基板を共有する3つの小型言語モデル（1億4600万から30億パラメータ）がその質問の両方の半分に答えることを示す。これらのモデルは、小規模でありながら高度な能力を証明し、信頼できる伴侶AIへの新しい経路を提供する。

まず、ゼロから訓練された1億4600万パラメータの行動監査役は、評価者ができないコンプライアンスギャップを検出する（二値コンプライアンス精度90.7%）。さらに、その凍結表現の線形読み出しは、訓練で見たことのない生成器ファミリーに対して、伴侶誘発の迎合、依存促進、作話記憶を検出する。スタイル制御、リーブワン・ジェネレーター・アウト評価でAUROC 0.804を達成し、同じ項目のフロンティア・ゼロショット判断者（0.721）を上回る。これは、小モデルが重要な安全評価で大モデルを超えられることを示す。

次に、創造的フレーム・シーダーは、311の決定されたペア比較で4つのプロンプトベースラインに対して100%好まれる。これは、創造的タスクにおける圧倒的な優位性を示す。さらに、記憶オペレーティングシステムは設計された忘却M(t) = S*exp(-lambda*t)を実装し、予測された骨格-壁紙分割は4条件パイロットの選択的検索ゲーティング下でのみ現れる。これは記憶が精密に制御可能であることを示す。

創造性、誠実性、設計された忘却は、信頼できる伴侶AIへの小モデル経路を構成する。この研究は「大きいほど良い」という従来の考え方に挑戦し、より安全で制御可能なAI伴侶開発の重要な基盤を提供する。