股東團體推動企業加強AI監管

一些股東團體對人工智慧（AI）快速發展所帶來的責任風險表示越來越擔憂，並正推動企業實施更嚴格的監管措施。溫哥華的Vancity投資管理公司要求谷歌母公司Alphabet（GOOG-T）更好地防止AI聊天機器人傳播錯誤資訊，而包括加拿大聯合教會養老金計劃在內的其他投資者則希望Shopify（SHOP-T）制定一項負責任AI使用政策。

這些投資者在兩家公司各自6月的年度股東大會前提交了股東提案。兩家公司均建議股東投票反對這些提案。Alphabet和Shopify拒絕置評。

生成式AI的風險包括偏見結果和虛假資訊，以及可能採取意外有害行動的自主代理，例如刪除計算機程式碼。近年來，AI已成為一些社會責任投資團體的關注焦點，包括與面部識別技術相關的人權風險。

Alphabet股東提交的10項提案中有5項涉及AI，包括倡導更多披露建設資料中心對氣候和水資源的影響。Meta Platforms也面臨多項與AI相關的提案，其中一項要求公司進行審計，評估用於訓練AI模型的資料（包括受版權保護的材料）相關風險。

與Open Mic（一個與投資者合作推動科技公司變革的非營利組織）一起，Vancity要求Alphabet董事會聘請獨立評估機構，推薦公司可以採取的額外步驟，以防止其AI應用（如Gemini和AI Overviews）傳播虛假資訊。據Alphabet稱，AI Overviews（傳統搜尋查詢的AI生成答案）每月覆蓋超過25億人，而Gemini聊天機器人應用約有9億月活躍使用者。Alphabet本月宣佈計劃進一步將AI融入線上搜尋體驗。

Alphabet的測試顯示，去年秋天釋出的Gemini 3模型在衡量事實準確性的基準測試中得分72.1%。雖然公司稱這一表現處於行業領先水平，但這意味著錯誤率約為28%。谷歌表示，從搜尋結果中提取答案（如AI Overviews所做的那樣）可以提高準確性。去年秋天AI初創公司Oumi的一項研究發現，AI Overviews的準確率約為91%。

“公眾只是使用AI Overview，並接受其為正確答案，”Vancity副投資組合經理Edmond Ho說。他認為Alphabet在制定內部指南和AI開發檢查方面做得不錯，但缺乏外部輸入。他還認為，公司應該更主動地披露模型準確性的資料，而不是隻提供簡短宣告稱AI可能犯錯。

Vancity在其提案中表示，AI的事實錯誤和幻覺（聽起來合理但具有誤導性或完全捏造的資訊）使Alphabet面臨法律風險（該公司已因AI生成內容被起訴），這可能導致經濟處罰。“作為投資者，我們面臨真實的財務風險，”Ho先生說。

Alphabet在回應Vancity要求的檔案中表示，其“多層治理框架”和技術披露表明公司已經在努力遏制AI生成的錯誤資訊。該公司還表示已聘請獨立審計師對其模型進行壓力測試，併發布有關結果的“重要資訊”。

Alphabet還面臨加拿大非營利組織股東研究與教育協會（SHARE）的另一項提案。SHARE要求Alphabet透過董事會審計委員會正式監督與AI相關的人權風險。該提案由PFA Pension和Parnassus Investments共同提交。

提案的動機是Alphabet去年決定取消其不將AI用於武器和監控應用的承諾，並更改董事會委員會章程，取消對公民權利和人權的監督。儘管Alphabet表示這一責任分佈在董事會中，但SHARE認為這種做法造成了透明度和問責方面的差距。

“我們看到Alphabet落後於一些同行，”SHARE企業參與副總監Juana Lee說，指出微軟和思科等公司已將AI風險監督分配給至少一個委員會。“我們認為這是保護長期股東價值不可或缺的一部分，”她說。

Alphabet建議股東投票反對該提案，稱其董事會擁有“無與倫比的技術和科學深度”的專家，並且其董事會結構允許各委員會在評估AI相關風險時保持靈活性。

不僅Alphabet等前沿AI開發商面臨股東提案，採用該技術的公司也面臨同樣情況。SHARE代表加拿大聯合教會養老金計劃，希望Shopify制定負責任AI使用政策，以確保投資者公司正在妥善管理風險。

Shopify是AI的快速採用者，為商家新增工具，並與谷歌和OpenAI合作，允許消費者直接透過AI對話購買產品。SHARE指出，AI系統可能存在錯誤自動交易等風險。

Shopify在公司檔案中表示，該提案是“尋找問題的解決方案”。該公司制定了員工行為準則，並在釋出前測試AI產品等措施。“我們深入瞭解AI並負責任地構建——基於現實世界的使用，而不是脫離我們實踐的 policy 檔案，”Shopify在其管理資訊通告中表示。

代理諮詢公司Institutional Shareholder Services本週也釋出報告，建議投資者投票反對該提案。ISS表示這“目前過於規定性和不必要”，Shopify更廣泛的風險管理方法似乎足夠。

Lee女士表示，AI政策正變得越來越普遍。例如，eBay的政策規定其AI系統不應造成意外後果或延續偏見，並將努力減少幻覺。