株主グループが企業にAI監視強化を要求

一部の株主グループは、人工知能（AI）の無制限な開発に伴う責任リスクへの懸念を強めており、企業に対してより厳格な監視措置を採用するよう働きかけている。バンクーバーのVancity Investment Managementは、Googleの親会社であるAlphabet（GOOG-T）に対し、AIチャットボットによる誤情報の拡散をより効果的に防止するよう求めている。一方、カナダ合同教会年金基金を含む他の投資家は、Shopify（SHOP-T）に責任あるAI利用ポリシーの策定を要求している。

これらの投資家は、両社の6月の年次株主総会に先立ち、株主提案を提出した。両社は株主に対し、これらの提案に反対票を投じるよう勧告している。AlphabetとShopifyはコメントを拒否した。

生成AIのリスクには、偏った結果や虚偽情報、コンピューターコードの削除など意図しない有害な行動を起こす可能性のある自律エージェントが含まれる。近年、AIは一部の社会的責任投資グループの焦点となっており、顔認識技術に関連する人権リスクも注目されている。

Alphabet株主が提出した10の提案のうち5つはAIに関するもので、データセンター建設の気候や水への影響に関する開示拡大を求めるものも含まれている。Meta Platformsも複数のAI関連提案に直面しており、その1つはAIモデルの訓練に使用されるデータ（著作権で保護された素材を含む）に関連するリスクを評価するための監査を要求している。

Open Mic（投資家と協力してテクノロジー企業に変革を促す非営利団体）とともに、VancityはAlphabetの取締役会に対し、独立した評価機関を雇い、同社のAIアプリケーション（GeminiやAI Overviewsなど）が虚偽情報を拡散するのを防ぐための追加措置を推奨するよう要求している。AI Overviews（従来の検索クエリに対するAI生成回答）は月間25億人以上にリーチし、Geminiチャットボットアプリは約9億人の月間アクティブユーザーを抱えているとAlphabetは発表している。同社は今月、さらにAIをオンライン検索体験に組み込む計画を発表した。

Alphabetのテストによると、昨年秋にリリースされたGemini 3モデルは、事実の正確性を測定するベンチマークで72.1%を達成した。同社はこのパフォーマンスを最先端と称賛しているが、これは約28%のエラー率を意味する。Googleは、AI Overviewsのように検索結果から回答を引き出すことで精度が向上すると述べている。昨年秋にAIスタートアップOumiが行った調査では、AI Overviewsの約91%が正確であることが判明した。

「一般大衆はAI Overviewをそのまま使い、それを正しい答えとして受け入れている」とVancityの副ポートフォリオマネージャーEdmond Ho氏は述べた。同氏は、Alphabetは内部ガイドラインやAI開発のチェックを適切に整備しているが、外部からの意見が不足していると指摘。また、同社はAIが間違いを犯す可能性があるという簡単な免責事項を超えて、モデルの精度に関するデータをより積極的に開示すべきだと主張した。

Vancityは提案の中で、事実誤認や幻覚（もっともらしく聞こえる誤解を招く情報、または完全に捏造された情報）によりAlphabetが法的リスクにさらされ（同社はすでにAI生成の虚偽に関連する訴訟に直面している）、金銭的罰則につながる可能性があると指摘した。「投資家として、実際の財務リスクが存在する」とHo氏は述べた。

AlphabetはVancityの要求に応じた書類で、「多層的なガバナンスフレームワーク」と技術開示により、同社はすでにAI生成の誤情報抑制に取り組んでいると述べた。また、独立した監査人を起用してモデルをストレステストし、結果に関する「重要な情報」を公開しているとも述べた。

Alphabetはまた、カナダの非営利団体Shareholder Association of Research and Education（SHARE）から別の提案を受けている。SHAREはAlphabetに対し、取締役会の監査委員会を通じてAIに関連する人権リスクの監督を正式化するよう求めている。この提案は、PFA PensionとParnassus Investmentsとの共同提出である。

この提案のきっかけは、Alphabetが昨年、AIを兵器や監視用途に使用しないというコミットメントを撤回し、取締役会委員会の憲章から市民権・人権の監督を削除したことにある。Alphabetによれば、この責任は取締役会全体に分散されているが、SHAREはこのアプローチが透明性と説明責任のギャップを生むと主張している。

「Alphabetは一部の競合他社に遅れをとっている」とSHAREのコーポレートエンゲージメント担当アソシエイトディレクター、Juana Lee氏は述べ、マイクロソフトやシスコなどの企業は少なくとも1つの委員会にAIリスク監視を割り当てていると指摘。「これは長期的な株主価値を守る上で不可欠な部分だと信じている」と同氏は述べた。

Alphabetは株主に対し、この提案に反対するよう勧告しており、取締役会には「比類のない技術的・科学的深み」を持つ専門家が揃っており、取締役会の構造により各委員会がAI関連リスクを評価する際に柔軟に対応できると述べている。

株主提案に直面しているのはAlphabetのような最先端AI開発企業だけではない。テクノロジーを採用している企業も同様である。SHAREはカナダ合同教会年金基金を代表して、Shopifyに責任あるAI利用ポリシーを実施するよう求めている。これは、投資家が同社がリスクを適切に管理していることを確信できるようにするためである。

ShopifyはAIの急速な採用企業であり、マーチャント向けツールを追加し、GoogleやOpenAIと協力して消費者がAI会話を通じて直接商品を購入できるようにしている。SHAREは、AIシステムが誤った自動取引を行う可能性などのリスクを指摘している。

Shopifyは企業提出書類の中で、この提案は「問題を探す解決策」であると述べている。同社は従業員の行動規範を定め、AI製品をリリース前にテストするなどの対策を講じている。「当社はAIを深く理解し、責任を持って構築しています。それは実際の使用に基づいており、実践から切り離されたポリシー文書によるものではありません」とShopifyは経営情報説明書に記載している。

議決権行使助言会社Institutional Shareholder Servicesも今週のメモで、投資家にこの提案に反対するよう推奨した。ISSは、現時点では「過度に規範的で不要」であり、Shopifyのより広範なリスク管理アプローチは十分と思われると述べた。

Lee氏は、AIポリシーはますます一般的になっていると述べた。例えばeBayのポリシーでは、AIシステムが意図しない結果を引き起こしたり偏見を永続させたりしてはならず、幻覚を減らすよう努めると規定している。