Show HN: 信頼性の高いAIのためのグラフコンテキストエンジン

Kritamaは、Fractal Context Engine（フラクタルコンテキストエンジン）を発表しました。これは、信頼性の高いAIアシスタントを構築するためのプラットフォームです。このエンジンの中核は動的コンテキスト切り替え技術であり、タスクに応じて関連するコンテキストを自動的に注入または削除し、モデルを現在の問題に集中させ、不要なノイズを排除します。また、観測可能なインテリジェンス機能により、各推論実行の詳細な状態を確認でき、問題を体系的に再現・修正できます。

コスト面では、小規模モデルを採用することで、大規模モデルと比較して大幅にコストを削減し、スループットを向上させています。具体的には、100万出力トークンあたり1.5ドル、スループット200トークン/秒、レイテンシ1〜2秒という性能を実現しています。これにより、開発者は低コストで高性能なAIアシスタントを導入できます。

さらに、プログラマブルインテリジェンス層をサポートしており、HCL（Terraformに似た設定言語）とMarkdownファイルを使用してアシスタントの行動ポリシー、ビジネスロジック、推論ルールを定義できます。例えば、デモではHCLモジュールを使って「Memovee」という映画専門アシスタントを定義し、その人格をMarkdownファイルで記述しています。これはコードでインテリジェンスを管理する新しいパラダイムを示しています。

動的コンテキスト切り替えの核心は、ユーザーが映画の推薦から俳優の議論に切り替えた際に、エンジンが自動的にコンテキストを調整する点で、開発者が手動で管理する必要はありません。観測可能インテリジェンスは、各ノード（N-01、N-03など）のアクティブ状態を表示するデバッグパネルを提供し、モデルの動作を理解するのに役立ちます。これらの機能は、高度に制御可能で保守しやすいAIシステムを構築します。

Kritamaは現在プレビュー段階であり、デモの予約やプレビュープログラムへの参加が可能です。この技術は、モデル選定、推論コスト、プロダクト能力、評価基準に影響を与える可能性があります。