本文にスキップ
AI News HubLIVE
要約のみ

Show HN: Thaw – 実行中のLLMのGitブランチ(エージェントのフォーク、プリフィルスキップ)

Thawは、実行中のLLMセッションを複数のブランチにフォークし、高コストなプリフィルフェーズをスキップすることでAIエージェントの並列探索を可能にするオープンソースツールです。H100 GPU上でサブ秒のフォーク時間(中央値0.88秒)を達成し、コールドブートの約340秒と比較して約400倍の高速化を実現します。vLLM/SGLangと連携し、エージェント分岐、RLトレーニング、並列コーディングエージェント、セッション移行などのユースケースに対応します。

ソースHacker News AI著者: nilsmatteson
Show HN: Thaw – 実行中のLLMのGitブランチ(エージェントのフォーク、プリフィルスキップ)
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Thawは、実行中のセッションからプリフィルをやり直すことなく分岐できるフォークプリミティブをAIエージェントに提供します。
  • パフォーマンス実績:H100 GPU上で初回フォーク1.16秒、中央値0.88秒と、コールドブート比約400倍の高速化。
  • ユースケース:エージェント推論分岐、RL後訓練(PPO、DPOなど)、並列コーディングエージェント、GPU/データセンター間のセッション移行。
  • オープンソース(Apache-2.0)、vLLMおよびSGLangと統合、ディスク、プリステージRAM、スロットホットスワップの3つの復元モードをサポート。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。