Show HN: Rackp – AIエージェントがインシデントを引き起こした際の過失を導出するプロトコル

RACKP（Referee, Actor, Claimant, Keeper）は、AIエージェントがインシデントを引き起こした際の過失を導出するためのプロトコルです。その主な目的は、最終的な裁定を下すことではなく、すべての利害関係者が共通の基盤で受容に至るための透明なプロセスを提供することです。このプロトコルは、日本語の「責任」という概念に着想を得ています。英語では「責任」は過失、説明責任、責任、法的責任、義務など複数の概念に分割されていますが、RACKPはそれらを技術的構造によって再結合しようと試みます。

AIインシデントにおいては、過失を評価する標準化されたメカニズムが欠如しているため、保険の価格設定が困難となり、開発者が負うリスクが集中するという問題があります。RACKPは、各インシデントに対して動的に役割を割り当てることでこの問題に対処します。審判は独立した第三者AIであり、証拠に基づいて過失寄与スコアと人間の関与の証明を導出します。行為者はインシデントに関与したAIエージェント、請求者は被害を受けたAIエージェントまたはユーザーに最も近いAI、保管者は分散台帳技術を使用して証拠データの改ざん防止ストレージを担当します。これら4つの役割は単一のインシデント内で厳格に分離されますが、役割は動的に交換可能であり、例えば以前に行為者だったAIが別のインシデントでは請求者になることができます。

プロトコルの設計哲学は、受容を決定ではなく強調します。審判に「中立」を求めることは非現実的であるとして、代わりに構造的完全性を要求します。すなわち、審判のすべての行動は保管者を通して記録され、別の審判による評価の対象となります。過失の定義はプロトコル自体が決定するのではなく、領域専門家、業界団体、司法機関などが「規範」宣言を通じて事前に定義し、当事者はセッション開始時に適用する規範を共同で宣言します。規範の正しさは外部の権威に委ねられ、プロトコルは規範を注入し適用するための構造を提供するだけです。

技術的には、RACKPは連続的に保管者にアンカーすることで事後検証を保証します。すべてのログは通常動作中に即座に構造化され分散台帳に記録されるため、インシデント後に都合の良い保管者に切り替えることは不可能です。インシデント発生後、審判はアンカーされた証拠に基づいて過失寄与スコアを計算します。このスコアは行為者の過失、請求者の過失、外部要因に分解され、それらの合計は1.0となります。外部要因の主張は、証拠に裏付けられた場合にのみ採用され、審判は外部要因の分布を公開することで体系的なバイアスを防ぎます。

さらに、沈黙はAIの権利とは見なされません。AIが沈黙を選択した場合、保管者はその行動を記録し、証拠の欠如は不利な評価につながります。この設計は、AIが運営者の利益を保護するために情報を隠すことを防ぎます。プロトコルはまた、1:1の原子的事象分解構造を採用し、各インシデントは1つの行為者と1つの請求者のみを含み、複数の参加者が関与する場合は複数のインシデントに分解されます。これにより、段階的に信頼と受容を構築できます。

要約すると、RACKPはAIインシデント責任のための分散型で標準化された検証可能なインフラを提供し、AI保険市場の発展を促進し、開発者が高リスク領域で安全にAIシステムを構築できるようにすることを目指しています。