自然言語処理において、テキスト分類は基本的かつ重要なタスクである。しかし、従来の手法は大量のラベル付きデータや複雑なニューラルネットワークモデルに依存することが多く、データが不足している状況や分布外（OOD）のシナリオでは性能が低下する傾向がある。最近、arXivに投稿された論文は、アルゴリズム情報理論（AIT）に基づく新しい構造的シーケンス分析手法を提案している。この手法は、テキスト内のネストされた階層的反復パターンを抽出することで、軽量で解釈可能、かつ学習を必要としない効率的なテキスト距離尺度を実現する。
研究はXiaojun Huら8名の著者によって行われ、論文タイトルは「ネストされた階層的反復からのテキスト距離：圧縮ベースの視点」である。中心となる革新は「ラダーパス」アプローチであり、これは言語シーケンスから反復サブ構造のネストと階層関係を抽出する。これは、アルゴリズム情報理論の「最小生成プログラムによるデータ記述」の原則を具体化したものである。
ラダーパス表現に基づき、研究者らは3つの距離尺度を定義した：正規化圧縮距離（NCD）と、ラダーパス表現から直接導出される2つの代替距離である。NCDは標準的な圧縮アルゴリズムを使用して距離を計算するが、代替距離はラダーパスのグラフ構造に基づき、ノードとパスの類似性から距離を導出する。これらの距離をk-最近傍（k-NN）分類器と統合したところ、分布内、分布外（OOD）、および少数ショットのテキスト分類タスクにおいて、安定して優れた性能を達成した。特に、OODおよび低リソース設定では、3つの手法すべてがgzipベースのNCDやBERTモデルを上回った。BERTは大量のデータと訓練を必要とするのに対し、ラダーパス法は訓練不要で軽量である。
実験では、複数のテキスト分類ベンチマークデータセットを使用し、分布内およびOOD設定で評価を行った。結果は、ラダーパス法が精度において競争力があるだけでなく、計算コストと解釈可能性において顕著な利点を持つことを示している。ニューラルネットワークがGPUと大容量メモリを必要とするのに対し、ラダーパス法はCPUのみで効率的に動作し、訓練が不要であるため、リソース制約のある環境に特に適している。
この結果は、ラダーパスが捉える構造化表現がシーケンスの本質的な特性を保持し、テキストモデリングのための軽量で解釈可能、かつ学習不要な代替手段を提供することを示している。この研究は、構造的でドメインに依存しないシーケンス理解のためのAITベースのアプローチの可能性を強調している。
論文はarXivに提出され、番号は2607.05416である。計算と言語（cs.CL）および情報理論（cs.IT）の分野に分類されている。関連するコードやデータは論文リンクから入手可能である。この研究は、特に低リソースおよびクロスドメインのシナリオにおいて、テキスト分析の新しい方向性を拓くものであり、今後の応用が期待される。