あなたが支払ったAIモデルを手に入れていない
本記事では、AIモデルプロバイダーがAPI呼び出し時に黙ってモデルを置き換えたり、精度を低下させたり、重みをドリフトさせたりする現象について考察する。これらは契約、保証、開示、証拠認証の法的問題を引き起こす。著者は三つのモデル同一性の破綻軸を特定し、現在の法的枠組みでは対応できないと論じ、解決策として証明可能なモデル署名を提案する。
APIを呼び出し「claude-fable-5」を指定したのに、応答の「model」フィールドが「claude-opus-4-8」である場合、あなたは支払ったモデルを実際には使用していない。この置き換えはエラーではなく、プロバイダーの設計によるものだ。AnthropicはFable 5再展開時に、ブロックされたリクエストをOpus 4.8に振り向け、ユーザーに通知することを明記した。しかし、他のプロバイダーはそれほど透明ではない。
Cursorが導入したRouterは、60万以上のリアルタイムリクエストで訓練された分類器を用いて、クエリの文脈、複雑さ、ドメインに基づいて最適なモデルを選択し、30〜50％のコスト削減を主張するが、タスクごとの具体的なモデルは公表していない。OpenRouterは文書で、一部のプロバイダーが低価格で量子化重みを提供し、出力が全精度と異なる可能性があると警告しているが、ログではその発生を知らせない。
モデル同一性は三つの独立した軸に沿って分裂している。
- 置き換え：異なるアーキテクチャー、異なる重み、異なる能力プロファイル。分類器が判断する。Fable 5からOpus 4.8、Cursor Autoからルーターがその都度選択するモデル。
- 劣化：同一モデルが低精度で提供される。OpenRouterは量子化パラメーターを提供するが、デフォルトではリクエストは価格順にプロバイダーに負荷分散され、同じ名前でも異なる演算が行われる。
- ドリフト：同じ名前が静かに更新された重みを指す。プロダクションの「-latest」エイリアスは、パッケージマニフェストで許容されない未バージョン管理の依存関係である。
エンジニアリングコミュニティはこれらを信頼性の問題と見なすが、同一性の問題でもあり、同一性こそが契約、保証、開示、証拠規則の基盤である。
法的観点では、API呼び出しが物品販売とみなされる場合、統一商事法典第2-313(1)(b)条は商品の記述を明示保証とする。しかし、ホスト型ソフトウェアはサービスとみなされることが多く、保証法から一般契約法に移行する。契約がモデルIDを固定していれば置き換えは違約、能力を固定していれば「フロンティア品質」の定義が必要だが、その定義は誰も書いていない。
連邦取引委員会の欺瞞法理では、暗示が重大かつ合理的消費者を誤解させる可能性がある場合にのみ責任が生じる。Anthropicは置き換えを開示しているが、他のプロバイダーは文書に埋め込み、デフォルトで有効にしている。これは規制当局が他の消費者分野でダークパターンと呼ぶ事実パターンである。
証拠規則では、連邦証拠規則901(b)(9)は結果を生成したシステムの説明を要求する。弁護士が虚偽の引用を含む書面を提出した場合、裁判所はどのモデルが生成したかを尋ねる。しかし、ルーターが証拠連鎖を断つ。プロバイダーのログは異なるモデルを示し、モデル自体が廃止されている可能性もある。ルーターのサブリクエストモデル割り当ては決定的な事実となるが、現在のプロバイダーに保持義務はない。
解決策は契約条項ではなく、実行時の署名である。各応答に、提供されたモデル識別子、重みハッシュ、精度、システムプロンプトハッシュをバインドした署名を返し、ハードウェア認証鍵で検証可能にする。応答オブジェクトには既に実際のモデル名が含まれているが、法的に有用な特性——偽って主張できないこと、買い手が売り手を信頼せずに検証できること——が欠けている。ハッシュを応答ヘッダーに含めることで、モデル同一性に連邦証拠規則902(14)が複製データに提供するのと同じ証明可能性をもたらす。
ルーティングは優れたエンジニアリングであるが、現在は未記録、未署名、検証不能な置き換えである。モデルIDは静かに法的識別子となった。それが何を識別するかを決定する時が来た。