llama.cpp と Pi で Mythos 拡張コーディングモデルをローカル実行する

Qwythos-9B-Claude-Mythos-5-1M は、Qwen3.5 をベースとした 9B パラメータの推論・コーディングモデルで、ローカルコーディングワークフロー、エージェント開発、長文コンテキストタスク向けに設計されています。コンシューマハードウェアで動作可能な小型サイズでありながら、実用的なコーディングタスクを支援する能力を備えている点が特徴です。本ガイドでは、llama.cpp を使用して Mythos 拡張 Qwythos モデルをローカルで実行し、Pi に接続してコーディングエージェントとして利用する方法を紹介します。

まず、llama.cpp のコマンドラインインターフェースをインストールします。公式インストールスクリプトを使用すると、llama serve を含む llama コマンドが利用可能になります。インストール後、シェルパスに追加し、Hugging Face のキャッシュディレクトリを設定します。次に、Q6_K 量子化の MTP モデルを起動します。コマンドには --n-gpu-layers all（全レイヤーを GPU にオフロード）、--ctx-size 100000（100K トークンのコンテキストウィンドウ）、--flash-attn on（フラッシュアテンション有効化）、--cache-type-k/q8_0（KV キャッシュメモリ削減）、--spec-type draft-mtp（MTP 投機的デコード有効化）などの重要なフラグが含まれます。RTX 4070 Ti Super では約 81.74 トークン/秒の生成速度が得られました。

続いて、Pi と pi-llama プラグインをインストールし、ローカル API アドレスを設定して Pi 内でモデルを選択します。テストとして、まず「Beat the AI」というブラウザゲームを作成するプロンプトを与えたところ、30 秒のカウントダウン、スコア表示、進行バー、複数の問題タイプ、リスタート機能を備えた完全な HTML ファイルが生成されました。次に、CSV を Excel に変換する Python CLI ツールを要求したところ、スクリプトが作成され、サンプルデータを用いたテストも正常に実行されました。

このモデルは高速で正確であり、日常的なコーディングタスクに十分な性能を発揮します。Pi や Claude Code などローカルの OpenAI 互換エンドポイントをサポートするツールと組み合わせて使用でき、外部 API に依存せずに有用なプロジェクトを構築できます。さらに良い結果を得るには、ウェブ検索スキルや Context7 などの Pi 統合機能を追加することをお勧めします。