堅牢なインコンテキスト学習に向けて：分布外プロキシを活用したターゲット不可アクセスなデモンストレーション検索

研究チームは、目標領域にアクセスできない状況でも大規模言語モデル（LLM）の文脈内学習の堅牢性を高める、DOPA と呼ばれるデモンストレーション検索フレームワークを提案した。論文のタイトルは「Toward Robust In-Context Learning: Leveraging Out-of-distribution Proxies for Target Inaccessible Demonstration Retrieval」で、筆頭著者は Hao Xu、共著者は 4 名である。2026 年 4 月 13 日に投稿され、arXiv:2606.00014 として公開され、ACL 2026 のメインカンファレンスに採択された。分野は計算言語学（cs.CL）および人工知能（cs.AI）にまたがる。著者らは要旨で、LLM が分布外（OOD）タスクで良好な性能を示すことが確認されている一方、分布シフトが深刻になるにつれてその優位性は薄れる傾向があると指摘する。そこで研究者たちは、利用可能なソース領域から分布的に対応し情報量の多いデモンストレーションを検索し、LLM の推論能力を高めようとしてきた。しかし、目標領域に実際にはアクセスできない実用的な場面では、未知の分布を評価すること自体が難しく、それが選択されるデモンストレーションの品質に間接的に影響する。この問題に対処するため、著者らは OOD プロキシを組み込み、アクセス不能な目標領域を近似して検索プロセスを導くデモンストレーション検索フレームワーク DOPA を提案した。さらに DOPA は、プロキシベースの評価に加えて、マハラノビス距離に基づく大域的な多様性制約を導入し、検索されたデモンストレーション間に十分な多様性を確保する。複数の LLM とタスクでの実験結果は、DOPA が OOD 設定における堅牢性を効果的に向上させることを示している。要旨にはコードリポジトリへのリンクも記載されている。論文は 2026 年 4 月 13 日月曜日の 10:22:52 UTC に投稿され、ファイルサイズは 15,228 KB、投稿者は Rui Song である。PDF、実験的な HTML 版、TeX ソースが提供され、DOI 10.48550/arXiv.2606.00014 を通じて引用可能で、DOI は DataCite により発行されている。記事は cs.CL の 2026 年 6 月の新着投稿として分類され、cs や cs.AI のカテゴリに切り替えて閲覧することもできる。