Show HN: 本番環境でのAIエージェントの記録、リプレイ、改善

Kitaru（来る）は、ZenMLチームが5年間のプロダクションオーケストレーション経験を活かして開発した、セルフホスト型でフレームワークに依存しない自律エージェントランタイムです。その名前は日本語の「来る」に由来し、エージェントの実行を記録、リプレイ、改善するためのツールです。

Kitaruの核心は、すべての実行ステップをタイプ化されたバージョン管理可能なアーティファクトとしてオブジェクトストレージに記録することです。各モデル呼び出し、ツール呼び出し、意思決定をチェックポイントとして保存し、開発者は任意の実行をステップ実行したり、異なる実行間でアーティファクトを比較したり、不良出力の原因を正確に特定できます。

デバッグとテストにおいて、Kitaruは強力なリプレイ機能を提供します。任意のチェックポイントから実行を再開し、モデルやパラメータ、ツール出力などを上書きしてテストできます。kitaru.llm()関数は各呼び出しのプロンプト、応答、トークン数、レイテンシを追跡し、「より小さなモデルでコストを削減できるか？」といった疑問に証拠をもって答えることができます。

プロダクション環境での回復力も重要な特徴です。クラッシュやポッド退避、タイムアウトが発生しても、実行を最初からやり直す必要はありません。バグを修正してリプレイするだけで、完了したチェックポイントはキャッシュされた出力を返します。kitaru.wait()でフローを一時停止し、計算リソースを解放して、後で人間や別のエージェント、ウェブフック、CLIからの入力で再開できます。flow.deploy()はフローを不変のスナップショットとして凍結し、タグでロールアウトやロールバックを管理します。@checkpoint(runtime="isolated")を使えば、特定のステップを独立したポッドやジョブで隔離実行できます。

KitaruはPythonファーストで、グラフDSLは不要です。@flowと@checkpointという2つのデコレータと少数のユーティリティ関数だけで済みます。以下のように、通常のPythonコードとして記述できます。

from kitaru import checkpoint, flow

@checkpoint
def research(topic: str) -> str:
    return do_research(topic)

@checkpoint
def write_draft(research: str) -> str:
    return generate_draft(research)

@flow
def writing_agent(topic: str) -> str:
    data = research(topic)
    return write_draft(data)

result = writing_agent.run("量子コンピューティング").wait()

既存のエージェントSDKとの統合も容易です。KitaruAgentでPydanticAIエージェントをラップするか、OpenAI Agents SDKやAnthropic Agent SDK、純粋なPythonコードに@flowと@checkpointデコレータを適用するだけです。

デプロイメントは完全にセルフホストで行われます。単一のサーバーをローカル、Kubernetes、GCP、AWS、Azureで実行し、アーティファクトは自身のS3/GCS/Azure Blobストレージに保存されます。強制的なSaaSコントロールプレーンはありません。組み込みのUIにより、実行の可観測性が初日から提供されます。

インストールはpip install kitaruまたはuv pip install kitaruで行い、kitaru initでプロジェクトを初期化し、最初のフローを作成して実行します。kitaru loginでリモートサーバーに接続するか、ローカルダッシュボードを起動できます。

Kitaruはv0.19.0までリリースされており、197のスターと13のフォークを獲得しています。ライセンスはApache 2.0です。エージェントプラットフォームを構築するチームにとって、Kitaruはアプリケーションチームに特定のツール層を強制することなく、実行層を提供します。