Ved AI 音声アシスタント – 完全オフラインのローカルAIエージェント

Vedは、リソースが限られた環境向けに設計されたAI音声アシスタントで、完全にローカルで動作します。Windows、Linux、macOSに対応し、ローカルモデルを実行するには12GB VRAM / 32GB RAMが必要ですが、OpenRouterクラウドAPIにフォールバックすることで、4GB VRAM / 16GB RAMでも動作可能です。

Vedの核となるのはLangGraphをベースにしたオーケストレーターで、3つの異なる動作チャネルを提供します。標準モードは3BパラメータのCPUモデルを使用し、ツールを呼び出さないカジュアルなチャットに適しています。ターボモードは8Bパラメータのプランナーと3Bパラメータのエグゼキュータを組み合わせ、読み取り、検索、アプリ起動などのツールをサポートします。コーダーモードは7Bパラメータのコーディング特化プランナーを使用し、コード編集やファイル操作を完全にサポートします。また、ハイバネートモードでは全てのモデルをVRAMから解放します。

ユーザーインターフェースは、TkinterベースのデスクトップGUIとFastAPIベースのHTTP APIサーバーの2種類を提供します。GUIはモード切り替えチップ、スレッドタブ、RAG添付チップ、人間による承認フローを備えています。HTTP APIはServer-Sent Eventsによるストリーミング応答を提供し、スレッド管理、ファイルアップロード、スクリプト実行などのエンドポイントを持ちます。

音声機能はVedの特筆すべき特徴です。オフライン音声パイプラインを備え、ウェイクワード検出（デフォルトは"alexa"）、faster-whisperによる音声認識、Piperによる音声合成をサポートします。音声再生は割り込み可能で、発話中に遮ることができます。初回起動時には環境のキャリブレーションが行われます。

Vedはスレッドごとに独立したRAG（検索拡張生成）ストレージを実装しており、.txt、.md、.pdfなどのドキュメントをアップロードでき、FIFO方式で古いコンテンツから自動的に削除されます。Pythonスクリプトは安全な一時ディレクトリで実行され、デフォルトのタイムアウトは30秒、出力は16KBに制限されています。

なお、Vedはローカルテレメトリを記録しますが、データはローカルファイルにのみ保存され、外部に送信されることはありません。環境変数でテレメトリを無効にすることも可能です。全体として、Vedはプライバシーとオフライン利用を重視する開発者向けの、多機能でカスタマイズ可能なローカルAIエージェントです。