マイクロソフトの責任あるAIシステム構築フレームワーク

マイクロソフトは2022年6月、責任あるAI基準（Responsible AI Standard）を公開しました。これは、同社がAIシステムを責任ある方法で構築するためのフレームワークであり、公平性、信頼性と安全性、プライバシーとセキュリティ、包括性、透明性、説明責任といった基本的な価値観を推進することを目的としています。

この基準は、これまでの高レベルの原則を超えて、具体的で実践可能なガイダンスを提供します。AIシステムを開発するチームは、影響評価、データガバナンス、人間の監視など、明確に定義された目標を達成する必要があります。各目標はさらに一連の要件に分解され、チームはシステムのライフサイクル全体にわたってこれらの要件を満たすための具体的なステップを踏む必要があります。また、基準には要件をサポートするツールやプラクティスもマッピングされています。

基準の開発には、マイクロソフトの製品経験から得られた重要な教訓が反映されています。例えば、音声認識技術において、2020年の学術研究で、特定の黒人およびアフリカ系アメリカ人コミュニティにおけるエラー率が白人のほぼ2倍であることが明らかになりました。マイクロソフトはこの結果を真摯に受け止め、専門家の協力を得てデータ収集を拡大し、性能格差を改善しました。この経験は基準の公平性目標に組み込まれ、チームが潜在的な公平性の問題を事前に特定するのに役立っています。

また、カスタムニューラルボイス技術では、合成音声の悪用を防ぐための多層的な制御フレームワークが採用されました。これには、顧客アクセスの制限、許容される使用事例の明確化、および技術的なガードレールの確立が含まれます。同様の制御は顔認識サービスにも適用され、既存顧客の移行期間後に、マネージド顧客とパートナーに限定し、使用事例を事前定義された許容範囲に絞り込みます。

さらに、マイクロソフトはAzure Faceサービスにおいて、感情状態や性別、年齢、笑顔、顔ひげ、髪型、化粧などの属性を推測する機能を廃止しました。これは、感情の定義に関する科学的コンセンサスの欠如や、推論の一般化における課題、プライバシーへの懸念によるものです。同社は、感情状態を推測するすべてのAIシステムを慎重に分析する方針を固めています。

マイクロソフトの責任あるAI基準は生きている文書であり、新しい研究、技術、法律、そして社内外からの学びに基づいて進化し続けます。同社は、業界、学界、市民社会、政府と協力し、責任あるAIの実践を前進させることにコミットしています。