あなたのモデルは誰のものか？

本稿は、AIエージェントが構築する人物モデルの所有権と管理権について論じる。核となる主張は、もしAIエージェントが個人のモデルを構築するなら、そのモデルは本人が検査可能、修正可能、移植可能、文脈的、同意済み、かつ管理可能であるべきだという点である。

著者は、現在のエージェントと人間のやり取りが構造的な問題を抱えていると指摘する。毎回の会話が初対面のように始まるのは、エージェントのメモリが断片化され、異なるプラットフォーム間で引き継がれないからだ。プラットフォーム内部のユーザーモデルは不透明であり、ユーザーはそれを確認したり修正したり、エクスポートしたりすることが難しい。カスタムインストラクションは有用だが、長期的な選好と一時的な要求、検証済みの事実と推測、共有可能な文脈と私的な価値観を区別できない。メモリシステムはすべてを平準化し、重要な情報とノイズを混同する。

これらの問題を解決するため、著者は「自己モデル」（Self Model）という概念を提案し、Almaという実験プロジェクトで具現化する。自己モデルは、本人が管理する文脈的な主張の集合であり、エージェントが同意を得て参照する。完全なアイデンティティでも、客観的な人物像でも、プラットフォームが所有するプロフィールでもない。Almaのコアアーキテクチャは、主張（Claims）、来歴（Provenance）、許可（Grants）、一時的読み取り（Readings）、監査イベント（Audit Events）、検査と修正（Inspection and Correction）、スキーマバージョン管理（Schema Versioning）からなる。これらのコンポーネントにより、モデルの制御可能性、透明性、移植可能性が確保される。

現在のAlmaのプロトタイプはRustで記述されており、具体的にはイベントログ、投影されたファセット、スコープベースの許可、同意フィルタリングされた読み取り、数値信頼度による常時調整、署名付きエクスポートバンドル、適合テストを実装している。著者は、新たな暗号プリミティブやID標準を発明するのではなく、既存のアイデアを組み合わせることが貢献だと強調する。

Almaには明確な限界がある。署名は起源と完全性を証明するが、真実を保証しない。アクセス制御は開示を管理するが、開示後の保持を制御しない。また、Almaがエージェントをより有用にするという証拠は未だない。本稿の評価はその仮説を検証する計画であり、結果ではない。

最後に、著者は関連分野の研究を詳細にレビューする。ローカルファーストソフトウェア、パーソナルデータストア、自己主権型アイデンティティ、オブジェクトケイパビリティセキュリティ、文脈的整合性、イベントソーシング、CRDT、パーソナルナレッジグラフ、レコメンダシステムのユーザーモデル、検索拡張エージェントメモリ、プラットフォームネイティブAIメモリなどである。Almaはこれらの分野から着想を得つつ、エージェント向けの目的別・文脈別の読み取りモデルを追加している。

Almaはまだ実験段階だが、AI時代において個人が自身のデータモデルを管理するための有望な方向性を示している。