ChatSee、エンタープライズAIエージェント向け「障害メモリ」構築のため650万ドルを調達

ChatSee.AI Inc.は、自律型人工知能システム向けの障害インテリジェンスレイヤーを提供する企業であり、650万ドルのシード資金を調達したことを発表した。本ラウンドはTrue Venturesがリードし、First Rays Venture Partners、Seven Hills Ventures、その他業界のベテランが参加した。共同創業者兼CEOのSekhar Sarukkai氏はSiliconANGLEのインタビューで、「企業が好むと好まざるとにかかわらず、AIはすでにエンタープライズに浸透している」と述べている。

AIエージェントは、Microsoft Copilot、Databricks Genie、Snowflake、Workday、OpenAI、Anthropic、および内部構築を通じて、企業チームの玄関先に到着しつつある。これは、OpenClaw、NemoClaw、Hermesなどの拡大するオープンソースプロジェクトのエコシステムを反映したものに過ぎない。エージェントは現実の運用となっている。

企業がエージェントをパイロットから本番環境に移行するにつれて、ガバナンスと制御の課題は、「シミュレーションで構築およびテストできるか」から「実際の顧客や従業員の作業でそれらを信頼できるか」へと変化している。Sarukkai氏は「彼らは皆、それが非決定的なインフラストラクチャであり、テストによって障害を排除できるわけではないことに気づいている」と付け加えた。

Sarukkai氏は、ChatSeeが「信頼ギャップ」に対処するために業界に参入していると述べている。同社は障害インテリジェンスレイヤーを提供する。これは、エージェントがいつ失敗するかを観察し、周囲のコンテキストを保存し、問題の修正方法をキャプチャし、その知識をフィードバックして将来のエージェントアクションがその障害を回避できるように設計されたモデルである。可観測性を超えて、ビジョンは大規模な自己学習と適応性を提供することである。

内部では、ChatSeeは10,000以上のエンタープライズエージェント障害の実例を収集し、157のカテゴリに分類したタクソノミーを使用している。これには、ツール呼び出しの失敗や、スコープ定義、推論、実行などのフェーズでの障害が含まれる。カテゴリは、観測と障害修正の範囲を業界初の障害モードである幻覚から、同様に微妙な幅広い問題へとシフトさせる。

ここ数年、ビジネスチームはAIをチャットボットの駆動から、自律的に行動し、タスクを分解し、長期的な活動を処理する完全自律型エージェントの駆動へと移行してきた。これらの多くは現在、中核業務に直接組み込まれており、微妙な問題はすぐには見えない。規模での小さなずれは、放置すれば大きな問題になり得る。Sarukkai氏は「これらは古典的な会話サポート型エージェントではなく、実際に中核ビジネスを支えている」と述べている。

多くのユースケースでは、AIエージェントはeコマースや金融サービスに導入され、カタログ検証、価格設定、トランザクションラベリング、マーチャントコード分類などの意思決定機能を提供している。エージェントがマーチャントコードに関して微妙に間違っていて、それが伝播したらどうなるか？人間が問題を発見して修正した場合、その修正はシステム全体で動作するすべてのエージェントにも伝播する必要がある。Sarukkai氏は「障害知識ベースと考えてください...エージェントはプラットフォームレベルでそれを参照するように設定できます」と述べている。

つまり、システム内の任意のエージェントが問題に遭遇し、人間に修正され、ツール呼び出しを繰り返し失敗し、API呼び出しが壊れるように動作を変更した場合など、自己修正する。これらの修正が重要であるかトレンドになった場合、それらは中央の権威あるデータベースに書き込まれ、他のエージェントが将来のベストプラクティスとして参照できるようになる。Sarukkai氏は「インテリジェンスは失われない。人間と独自の判断の両方から、この障害インテリジェンスを構築し続ける」とビジョンを説明した。

ChatSeeの基本的な提案は、企業がより多くのAIエージェントを構築および展開していること、そしてそれらを取り巻くツール層はまだ追いついていないことである。VokerやRespanなどのスタートアップは、実際の環境でのエージェントのパフォーマンスを理解するプラットフォームを構築している。また、Monte Carlo Data Inc.のAI可観測性ローンチは、データ可観測性ベンダーがAIの入出力と品質監視に拡張していることを示している。

研究・アドバイザリー企業TAG-infosphere Inc.のCEO、Eduard Amoroso博士は「最も重要なAIリスクの多くは、エージェントが自律的に動作するランタイムで発生する。これらのシステムは確率的で適応的であるため、静的テストだけでは不十分である。これにより、エンタープライズワークフロー全体にわたる継続的なランタイム保証の必要性が高まっている」と述べた。

同社は、このトレンドを可観測性（何が起こったかを伝える）と評価（エージェントがうまく機能したかを伝える）から、障害記憶層（何が失敗したか、なぜ失敗したか、再発を防ぐ方法）の構築へと向かうものと見ている。業界は自己学習と自己修復エージェントへと向かっており、より多くのエージェントが協力し、群れで動作し、人間と共に働くにつれて、エージェントが協力して作業を行い、過去の過ちを避けるためのリッチな機能の機会が増えるだろう。