AIが規制対象の専門職ワークフローをどのように変革しているか
金融サービス、法律、税務、監査などの規制産業は、AI導入においてゼロトレランスの誤り許容度に直面しています。スタンフォード大学の研究では、汎用言語モデルの幻覚率が58%から88%に達することが示されました。AIは、受託者責任レベルの正確性、データ保護、明示的な承認要件を満たさなければ安全に導入できません。本記事では、正確性基準、ワークフロー自動化、データ保証、説明責任という4つの重要な洞察をまとめています。
規制産業は、ほとんどのテクノロジーバイヤーが直面したことのない立場からAIを採用しています。それは、誤りの完全な許容範囲の欠如です。金融サービス、法律、税務、監査機能は、部分的な正確性が丸め誤差ではなく、規制上、財務上、評判上の結果をもたらすコンプライアンス違反となる基準の下で運営されています。
AIが登場する前から、リスクの規模はすでに大きいものでした。全米経済研究所の調査によると、米国企業は平均して賃金総額の1.3％から3.3％を規制遵守に費やしており、この負担は時間の経過とともに増大し、業種や企業規模によって大きく異なります。
スタンフォード大学の研究者は、検証可能な法律問題に対して汎用言語モデルをテストしたところ、幻覚率が58％から88％に及ぶことを発見し、特別に構築された保護手段なしでは、既製のAIがリスクの高い法律および規制業務に適さない理由を強調しています。
データ処理は正確性の問題を悪化させます。NISTのAIリスク管理フレームワークは、AIシステムのトレーニングに基礎データを使用することに関連するプライバシー上の懸念を、モデルのトレーニングおよび出力データのセキュリティとともに、中核的なリスクカテゴリーとして挙げています。
金融機関にとって、これはハードな要件に変換されます。ベンダーは、機密性の高い申告書、税務記録、顧客データが決してモデルのトレーニングコーパスの一部にならないことを証明しなければなりません。これは、ほとんどの商用AIシステムが実現するように設計されていない保証です。
これらの圧力は、機関がこの分野が許容できない2つの障害モード（不正確さとデータ漏洩）を導入することなく、規制業務の労力とコストを有意義に削減できるAIを必要とすることを意味します。
EmerjのCEO兼リサーチヘッドであるDaniel Faggellaは、AI in Financial Services Podcastにトムソン・ロイターのCEOであるSteve Haskerを招き、規制機関が受託者責任グレードの正確性要件を満たし、機密データを保護し、規制された意思決定の説明責任を維持することで、どのように安全にAIを導入できるかを掘り下げました。
本記事では、受託者責任グレードのAIが金融サービスにおける法律、税務、規制上の意思決定をどのように変革するかについて、4つの洞察を抽出しています。
規制されたAI業務のための受託者責任グレードの正確性要件：法律、税務、監査、規制機能は、「ほとんど正確」なAI出力では規制された使用に不十分であるとする正確性の基準を必要とします。
労働集約的な規制プロセスのためのワークフロー自動化：AIは、大規模な規制申告書の作成、レビュー、検証の負担を軽減すると同時に、専門家の説明責任を維持することができます。
規制されたAI導入のためのデータ保護保証：機密性の高い顧客および機関情報は、モデルのトレーニングから隔離され、将来の出力で漏洩から保護されなければなりません。
機械支援による意思決定のための明示的な承認要件：規制された出力は、AIがそれらの決定に至るまでの作業を加速したとしても、受託者および規制上の責任を負う個人によって承認されなければなりません。
Steve Haskerは、規制機能は汎用AIシステムが満たすように設計されていない正確性基準の下で機能するという議論の基盤を築きます。法律、税務、監査、金融サービスのチームは、誤った出力が単なる運用上の障害ではなく、規制上、財務上、評判上の結果をもたらすコンプライアンス違反となる環境で働いています。
これにより、AIが中核的なワークフローに入る前に満たさなければならない閾値が生まれます。すなわち、正確性は資格を持つ専門家に期待されるものと一致しなければなりません。
課題は単に幻覚を減らすことではなく、機械生成の作業が規制された提出物を管理する基準に適合することを保証することです。Hasker氏は、これらの機能は精度、検証可能性、一貫性に依存しており、確率的モデルは特別に構築された保護手段なしではこれらの特性を保証できないと指摘します。AIは分析とドラフト作成を加速できますが、そのアウトプットが人間の作業と同じ受託者責任の期待を満たす場合に限ります。
正確性要件はまた、AIを最初にどこに展開できるかを形作ります。構造化されたドキュメント、反復可能なレビューステップ、明確に定義された正確性基準を含むタスクは、安全な導入への最も明確な道を提供します。これらの分野では、AIは規制された実践の範囲内で活動しながら、手動のワークロードを削減することで専門家をサポートできます。
Hasker氏が強調する正確性の考慮事項：プロフェッショナルグレードの正確性、検証可能な推論、提出書類間の一貫性、構造化タスクへの適合性。
これらの正確性の期待は、規制されたAI導入のベースラインを形成します。これは、機械生成の作業が新しいコンプライアンスリスクを導入するのではなく、プロフェッショナルのアウトプットを強化することを保証する基準です。
Hasker氏が、近い将来どの専門的なワークフローが変化する可能性が高いかと尋ねられたとき、彼は規制申告書の準備を指摘します。彼は、膨大な専門家の時間を消費し、重大な法的およびコンプライアンスリスクを伴うプロセスについて説明します。金融機関は日常的に数百万ページの申告書、開示事項、監査入力、および補足文書を管理しています。その多くは反復的で、正確性に敏感であり、下流の意思決定に不可欠です。
「規制申告書の準備は、膨大な専門家の時間を消費し、重大なコンプライアンスリスクを伴い、権威あるコンテンツに基づいています。エキスパート主導のAIアプリケーションは、調査の負担の多くを自動化できますが、最終的な説明責任は署名する専門家に残ります。」—トムソン・ロイターCEO Steve Hasker
Hasker氏が指摘するように、「コンテンツとエキスパート主導のAIアプリケーションは、そのプロセスを根本的に自動化する」ため、機関は専門家の時間を文書処理からより価値の高い分析にシフトできるようになります。説明責任の構造は変わりません。CFO、ジェネラルカウンセル、およびその他の責任者は引き続き承認責任を保持しますが、その決定に至るまでの作業は大幅に効率的になります。
Hasker氏は、データ保護が金融サービスにおけるAI導入の主要な条件の一つであると主張します。組織はAIの生産性向上のメリットを望みながらも、顧客情報、取引データ、および専有の機関知識が保護されるという確信を必要とします。高度に規制された環境では、データ漏洩は単なる技術的な懸念ではなく、機関にとって存続のリスクを表します。
Hasker氏は、規制機関は顧客情報、取引データ、および専有知識がモデルの出力から隔離されるという保証を必要とすると強調します。彼はこの要件を、ユーザーとの対話に依存して時間の経過とともにモデルのパフォーマンスを向上させるAI開発アプローチと対比させます。これは、金融および法律の環境では容認できない露出を生み出し、顧客入力の再利用は規制上の期待に違反する可能性があります。
「金融機関は、AIを使用する際に顧客情報、取引データ、および専有知識が保護されるという確信を必要としています。自動化のメリットは、組織が自社のデータが将来のモデル出力の一部にならないと確信した場合にのみ実現できます。」—トムソン・ロイターCEO Steve Hasker
Hasker氏の中心的なテーマの一つは、規制されたAI導入は最終的に責任に帰着するということです。AIは準備、分析、レビューを加速できますが、規制された出力は最終結果を承認するために明確に説明責任のある個人を依然として必要とします。会話を通じて、彼はジェネラルカウンセル、CFO、CEO、およびその他の上級リーダーの役割を強調します。それは象徴的な署名者としてではなく、仕事に対する法的および受託者責任を負う人々としてです。
Hasker氏は、AIはこの責任を取り除くのではなく、むしろ説明責任をより明確にすると主張します。機関は、どのタスクを機械でサポートできるか、どの決定に資格を持つ専門家または上級管理職からの人間の判断が依然として必要かを決定しなければなりません。規制された環境では、この区別は申告書、法的意見、および財務提出物に対する責任をモデルに委任できないため、不可欠です。
Hasker氏の規制されたAI導入に関する見解にわたって、機関は説明責任をそのままに保つ境界を正式に定める必要があります。明確な承認責任、検証手順、専門家による監視要件、およびAIサポートに適したワークフロー。
これらの正確性の期待は、規制されたAI導入のベースラインを形成します。これは、機械生成の作業が新しいコンプライアンスリスクを導入するのではなく、プロフェッショナルのアウトプットを強化することを保証する基準です。