機械学習の応用において、ラベル付きサンプルの収集をいつ停止するかは基本的でありながら理論的に未解決の問題です。最近の研究(arXiv:2606.24903)で、バイナリ少数ショット分類のための「飽和指数」が提案されました。この指数は、プールされたクラス内共分散の有効ランクとショット数(サンプル数)の比を計算し、線形判別器の安定性を定量化します。指数が閾値を下回ると、共分散推定が母集団共分散に十分収束し、線形判別が安定したことを示します。この指数はサポート特徴のみから計算可能で、計算量はO(d³)であり、テストラベルや学習済み分類器を必要としません。そのため、データ収集プロセス中にリアルタイムで適用できます。
研究チームは17のバイナリタスク、6つのデータセットで評価を行い、246のダブリングペア観測を収集しました。その結果、17タスク中16タスクで飽和指数と限界精度向上の間に正の相関が見られ、スピアマン相関係数の中央値は0.811でした。全データをプールした相関係数は0.548(p値1.1×10⁻²⁰)で、高い統計的有意性を示しました。さらに、位相図分析により、探索(平均限界利得3.48%)、遷移(2.40%)、飽和(0.82%)の3つの明確な段階が明らかになり、各段階間の差は統計的に有意でした(p≤0.008)。これは、サンプルが増えるにつれてモデルの性能向上が徐々に鈍化し、最終的に飽和領域に達することを意味します。
バイナリ停止ルールとして、飽和指数はAUC 0.752を達成し、アノテーションの決定に確率的なガイダンスを提供します。タスク間の漸近的有効ランクとピーク精度の間には有意な単調関係は見られませんでした(スピアマンrₛ=0.380、p=0.133)。また、低飽和指数と低精度の組み合わせは表現の不十分さを示します。つまり、飽和指数が低いにもかかわらず精度が低い場合、現在の特徴表現ではクラスを区別できないことを診断できます。これは、単にサンプルを増やすのではなく、特徴抽出器を改善する必要がある時期を特定するのに役立ちます。
本研究は現在、固定線形分類器を用いたバイナリ分類に限定されていますが、著者らはN-way設定や事前学習済みバックボーン表現への拡張を今後の課題として議論しています。この研究は、少数ショット学習におけるアノテーション予算配分の理論的基盤を提供し、不必要なラベリングコストを削減する可能性があります。今後の拡張により、飽和指数は機械学習実践における標準的なデータ予算計画ツールとなる可能性があります。