Token Saver のご紹介：ローカルハイブリッドRAGを使用してClaude PDFのトークンコストを90-99%削減するオープンソースMCP拡張機能

AI開発者、研究者、専門家は、大規模なドキュメントをLLMで分析する際、コンテキストウィンドウによる隠れた累積コストという厄介な問題に直面します。200ページのPDFをチャットに貼り付けるのは、一回限りの費用ではありません。会話履歴はすべてのやり取りでモデルに再送信されるため、その巨大なドキュメントはフォローアップ質問のたびに再度支払われることになります。

Marktechpost AIチームは、Claude Desktop向けのオープンソースのModel Context Protocol（MCP）拡張機能であるToken Saverをリリースしました（MITライセンス、現在v1.0）。これは、Marktechpost AI Media Inc.のArnav Rai（ロチェスター工科大学のCS学生）がMarktechpostでのインターン中に、Jean-marc MommessinとAsif Razzaqの監督の下で開発されました。Token Saverは、Claudeがローカルドキュメントと対話する方法を根本的に変えます。ローカルマシン上で直接ローカルハイブリッドRAGシステムを実装することにより、実際のファイルをモデルにアップロードすることなく、大規模なPDFについて質問することができます。

トークン消費は92%から99%削減され、プライバシーが保証され、セットアップにはPython環境やターミナル設定は一切不要です。

大規模PDFの隠れたトークン消費

ほとんどのユーザーは、PDFをClaudeにドロップすると、単にテキストが抽出されると思い込んでいます。実際には、Claudeのデフォルト動作は、チャートやレイアウトを保持するために各ページを画像に変換し、同時にテキストを個別に抽出します。単一の画像トークンがカウントされる前でも、テキストだけでも1ページあたり1,500～3,000トークンになる可能性があります。

Prompt CachingやClaude Projectsはこの影響を緩和するのに役立ちますが、根本的な問題は解決しません。ドキュメント全体がプロバイダーのサーバーに送信されることに変わりはありません。さらに、1,000ページの教科書から関連する2段落だけが必要な場合、LLMに1,000ページ全体を検索させるのは非効率であり、幻覚を起こしやすくなります。

ローカルハイブリッドRAGが問題を解決する方法

MarktechpostのToken Saverは、ローカルMCPサーバーとして機能します。ローカルマシン上で動作する軽量なバックグラウンドプログラムで、Claudeがツールとして呼び出すことができます。PDFはハードドライブから離れることはありません。

質問をすると、Token SaverはローカルハイブリッドRAGを使用して回答を見つけます。ハイブリッドRAGは、ドキュメント検索のゴールドスタンダードであり、2つの強力な検索方法を組み合わせています。

キーワードマッチング（BM25）：SQLiteの組み込みFTS5検索（重み0.4）を使用して、正確な用語を見つけます。 セマンティック検索（コサイン類似度）：ローカルのall-MiniLM-L6-v2埋め込みモデル（重み0.6）を使用して、質問の意味を理解します（単なる単語の一致ではありません）。 これら2つのアプローチをローカルでブレンドすることで、サーバーはファイルを検索し、Claudeに関連性の高いパッセージのみを渡します。Claudeは回答を合成し、正確なページ番号を引用し、節約したトークンの累計を提供します。

8段階の処理パイプライン

Token Saverは、単一の長期実行ローカルプロセス内で完全に動作します。テキストがClaudeに到達する前に、ローカルハイブリッドRAGパイプラインが8つの迅速なステップを実行します。

抽出：pypdfium2（フォールバックとしてpypdf）を使用してテキストを抽出。 チャンク化：テキストを180ワードのパッセージに分割し、40ワードのオーバーラップを持たせてコンテキストが盲目的に切断されないようにする。 スコアリング（ハイブリッドRAG）：ブレンドされたBM25とローカル埋め込みモデルを使用してチャンクを評価。 ゲーティング：品質しきい値を適用。キーワードを共有しないパッセージは、資格を得るために0.25のセマンティック類似度の下限を通過する必要がある。 重複排除：ほぼ同一のパッセージを削除。 トリミング：ユーザーのプロンプトに回答する文に厳密に絞り込む。 バジェット：Claudeに送信される総ペイロードを8,000文字に制限。 エンベロープ：取得したテキストを、ソースファイルと正確なページ番号を含むドキュメントチャンク要素にラップ。 （注：埋め込みモデルはオプションですが推奨されます。ロードに失敗した場合、システムはキーワードのみのマッチングにグレースフルにフォールバックします）。

数字：スケールで99%の節約

ハイブリッドRAGパイプラインは返されるテキストスライスを制限するため、トークン節約はドキュメントのサイズに応じて指数関数的に増加します。以下はToken Saverのベンチマーク結果です（tiktokenで測定、1ドキュメントあたり1質問を想定）：

ドキュメント ページ数 全文トークン数 返却トークン数 節約率 FDA医薬品ラベル 33 23,959 1,021 95.7% GDPR（EU 2016/679） 88 70,260 996 98.6% SFFA v. Harvard 233 133,349 740 99.4%

免責事項：トークンカウントはcl100k_baseを代用として使用し、ベースラインは毎回の検索でドキュメント全体が課金されると仮定しています。

裁判所の意見書、技術標準、財務報告書、または密度の高い教科書を繰り返し扱う専門家にとって、Token Saverは反復的なトークン税を排除します。

セキュリティとローカルプライバシー

エンタープライズユーザーや法務専門家にとって、データプライバシーは交渉の余地がありません。Token Saverのセキュリティモデルは3つの柱に基づいています。

ゼロアップロード：ドキュメントはマシンから離れません。 フォルダホワイトリスト：Token Saver用の特定のフォルダを設定します。サーバーは指定されたディレクトリ外のファイルを積極的に読み取り拒否します。 ネットワーク分離：サーバーは標準I/O（stdio）のみを介してClaude Desktopと通信します。リスニングネットワークポートはなく、攻撃対象領域を大幅に削減します。

モデルパフォーマンス：Sonnet vs. Opus

MarktechpostのToken Saverは、Claude 3.5のすべての3つのティアで動作しますが、テストにより異なる動作が明らかになりました。

Claude 3.5 Sonnet（推奨）：賢明なデフォルトです。ファイル参照が曖昧な場合も適切に処理し、同様の名前のファイルが2つある場合は明確化の質問をし、取得したページ番号を正しく適用します。 Claude 3 Opus：複数の意見を持つ複雑なドキュメント（例：多数意見と反対意見のある法的判決）に優れています。Opusは、明示的なテキストではなくコンテキストに基づいて属性を推測した場合にフラグを立てるほど賢いです。

数分で始める

複雑なPython環境やJSON設定を必要とする多くのオープンソースAIツールとは異なり、Token Saverは単一の.mcpbバンドルとしてパッケージ化されています。

プロジェクトのGitHub Releasesページからtoken-saver-ccr.mcpbをダウンロードします。 Claude Desktopを開き、設定 -> 拡張機能 -> 拡張機能のインストールに進みます。 拡張機能を有効にし、設定をクリックして、参照用PDFを保存する専用フォルダを選択します。 最初のプロンプトで、「常に許可」を選択します。 フォルダが選択されるまで拡張機能は実行されません。これは、単一の選択が3つの目的を同時に果たすためです。 そのフォルダは少し考える価値があります。読み取り可能な境界を設定し、パスを入力する代わりにファイル名で要求できるようにし、会話の開始時にサーバーがClaudeに表示するリストです。意図した質問内容のみを含む小さなフォルダは、ドキュメントフォルダ全体を指定するよりもはるかにうまく機能します。

重要なポイント

大幅なコスト削減：ローカルハイブリッドRAGを使用して関連する段落のみをLLMに渡すことで、トークンコストが最大99%削減されます。チャットが長ければ長いほど、節約額は大きくなります。 検証可能な正確性：Token Saverは取得したすべてのチャンクに正確なページ番号を添付するため、ローカルPDFを開いてClaudeの主張を即座に検証できます。 絶対的なプライバシー：境界はローカルマシンです。独自のデータがAIプロバイダーのサーバーにアップロードされることは決してありません。 摩擦のないセットアップ：Pythonは不要です。単純な.mcpbファイルのインストールで、Claude Desktopですぐに使用開始できます。

GitHubリポジトリをご覧ください。

参考文献：MCP Bundle形式 | all-MiniLM-L6-v2 | pdfkb-mcp | wesleygriffin/pdfrag | コーパス：Dobbs v. Jackson Women's Health Organization；Berkshire Hathaway 2023 Annual Report