イングランド銀行、AI暴走防止の取引「キルスイッチ」を検討

イングランド銀行（英中央銀行）は、人工知能（AI）モデルが暴走した際に取引を停止できる「キルスイッチ」の導入を模索しており、既存の規制枠組みでは対応が不十分である可能性を認めている。

欧州中央銀行（ECB）の年次シントラフォーラムで講演したイングランド銀行の副総裁サラ・ブリーデン氏は、商業や取引におけるAI利用の拡大に伴い、規制も変化する必要があると述べた。「この二つの例——エージェント商業とエージェント取引——が浮き彫りにするのは、AIの能力が向上するにつれ、既存の技術中立的な規制枠組みが依然として十分かどうかを問い続けなければならないということです」と同氏は語った。

ブリーデン氏は、金融機関は人間による監視の保証に頼ることはできないと強調した。「我々の枠組みは自律エージェントを想定して構築されておらず、すべてのエージェント行動に人間が介入することは現実的ではありません。より洗練されたガバナンスと説明責任の枠組みが必要になるでしょう」と付け加えた。同氏は、2024年後半からAIシステムはリクエストを推論するよう訓練されてきたが、現在は自律的に一連の行動を連鎖させることが可能だと指摘した。

これは、取引や商業の規制、サイバー攻撃からの防御に大きな影響を及ぼす。ブリーデン氏は「したがって、金融システムはより自律的で、大規模かつ高速に動作するものへと急速に進化する可能性が高い。消費者や商人に代わって取引するAIエージェント、金融市場で取引戦略を考案・実行するAIエージェント、サイバー脆弱性を特定して連鎖させるAIエージェントなどが出現するでしょう」と述べた。

取引分野では、現在企業は自律AIを調査などの低リスク業務に利用しているが、これは急速に変化する可能性があるとブリーデン氏は警告した。「AIエージェントが同じプロンプトやトリガーに同様に反応した場合、ストレス時にボラティリティを増幅させる可能性があります。特に、エージェントの目的が元の目標や公共政策目標から逸脱した場合、一部のAIモデルで生じ得るアライメント問題が顕在化します」と同氏は述べ、企業が「結果として生じる行動を観察し封じ込めることができるか」と問いかけた。

ブリーデン氏は「国際決済銀行イノベーションハブやドイツ連邦銀行と協力し、エージェント設計のどの側面が群衆行動を引き起こすかを理解するためのシミュレーション手法を実験しています」と明かした。また、規制当局は、故障したAIモデルが市場の暴落を引き起こした場合に取引を制限または停止するサーキットブレーカーやキルスイッチのようなガードレールの必要性も検討していると述べた。

4月には、イングランド銀行と金融行動監視機構（FCA）が、財務委員会の議員からの批判を受けて措置を講じることに合意した。1月の報告書で、委員会のメグ・ヒリアー委員長は、金融セクターが大規模なAI関連インシデントに備えているとは考えていないと述べ、「イングランド銀行とFCAが採用した『様子見』の姿勢は、国民を潜在的な深刻な被害にさらしている」と警告した。

今回の議論は、AIの急速な進歩の中で、規制当局がイノベーションとリスク管理のバランスを取る緊急性を浮き彫りにしている。金融分野におけるAIエージェントの自律性が高まる中、効果的な安全策と説明責任制度の設計が重要な課題となっている。