股东团体推动企业加强AI监管

一些股东团体对人工智能（AI）快速发展所带来的责任风险表示越来越担忧，并正推动企业实施更严格的监管措施。温哥华的Vancity投资管理公司要求谷歌母公司Alphabet（GOOG-T）更好地防止AI聊天机器人传播错误信息，而包括加拿大联合教会养老金计划在内的其他投资者则希望Shopify（SHOP-T）制定一项负责任AI使用政策。

这些投资者在两家公司各自6月的年度股东大会前提交了股东提案。两家公司均建议股东投票反对这些提案。Alphabet和Shopify拒绝置评。

生成式AI的风险包括偏见结果和虚假信息，以及可能采取意外有害行动的自主代理，例如删除计算机代码。近年来，AI已成为一些社会责任投资团体的关注焦点，包括与面部识别技术相关的人权风险。

Alphabet股东提交的10项提案中有5项涉及AI，包括倡导更多披露建设数据中心对气候和水资源的影响。Meta Platforms也面临多项与AI相关的提案，其中一项要求公司进行审计，评估用于训练AI模型的数据（包括受版权保护的材料）相关风险。

与Open Mic（一个与投资者合作推动科技公司变革的非营利组织）一起，Vancity要求Alphabet董事会聘请独立评估机构，推荐公司可以采取的额外步骤，以防止其AI应用（如Gemini和AI Overviews）传播虚假信息。据Alphabet称，AI Overviews（传统搜索查询的AI生成答案）每月覆盖超过25亿人，而Gemini聊天机器人应用约有9亿月活跃用户。Alphabet本月宣布计划进一步将AI融入在线搜索体验。

Alphabet的测试显示，去年秋天发布的Gemini 3模型在衡量事实准确性的基准测试中得分72.1%。虽然公司称这一表现处于行业领先水平，但这意味着错误率约为28%。谷歌表示，从搜索结果中提取答案（如AI Overviews所做的那样）可以提高准确性。去年秋天AI初创公司Oumi的一项研究发现，AI Overviews的准确率约为91%。

“公众只是使用AI Overview，并接受其为正确答案，”Vancity副投资组合经理Edmond Ho说。他认为Alphabet在制定内部指南和AI开发检查方面做得不错，但缺乏外部输入。他还认为，公司应该更主动地披露模型准确性的数据，而不是只提供简短声明称AI可能犯错。

Vancity在其提案中表示，AI的事实错误和幻觉（听起来合理但具有误导性或完全捏造的信息）使Alphabet面临法律风险（该公司已因AI生成内容被起诉），这可能导致经济处罚。“作为投资者，我们面临真实的财务风险，”Ho先生说。

Alphabet在回应Vancity要求的文件中表示，其“多层治理框架”和技术披露表明公司已经在努力遏制AI生成的错误信息。该公司还表示已聘请独立审计师对其模型进行压力测试，并发布有关结果的“重要信息”。

Alphabet还面临加拿大非营利组织股东研究与教育协会（SHARE）的另一项提案。SHARE要求Alphabet通过董事会审计委员会正式监督与AI相关的人权风险。该提案由PFA Pension和Parnassus Investments共同提交。

提案的动机是Alphabet去年决定取消其不将AI用于武器和监控应用的承诺，并更改董事会委员会章程，取消对公民权利和人权的监督。尽管Alphabet表示这一责任分布在董事会中，但SHARE认为这种做法造成了透明度和问责方面的差距。

“我们看到Alphabet落后于一些同行，”SHARE企业参与副总监Juana Lee说，指出微软和思科等公司已将AI风险监督分配给至少一个委员会。“我们认为这是保护长期股东价值不可或缺的一部分，”她说。

Alphabet建议股东投票反对该提案，称其董事会拥有“无与伦比的技术和科学深度”的专家，并且其董事会结构允许各委员会在评估AI相关风险时保持灵活性。

不仅Alphabet等前沿AI开发商面临股东提案，采用该技术的公司也面临同样情况。SHARE代表加拿大联合教会养老金计划，希望Shopify制定负责任AI使用政策，以确保投资者公司正在妥善管理风险。

Shopify是AI的快速采用者，为商家添加工具，并与谷歌和OpenAI合作，允许消费者直接通过AI对话购买产品。SHARE指出，AI系统可能存在错误自动交易等风险。

Shopify在公司文件中表示，该提案是“寻找问题的解决方案”。该公司制定了员工行为准则，并在发布前测试AI产品等措施。“我们深入了解AI并负责任地构建——基于现实世界的使用，而不是脱离我们实践的 policy 文件，”Shopify在其管理信息通告中表示。

代理咨询公司Institutional Shareholder Services本周也发布报告，建议投资者投票反对该提案。ISS表示这“目前过于规定性和不必要”，Shopify更广泛的风险管理方法似乎足够。

Lee女士表示，AI政策正变得越来越普遍。例如，eBay的政策规定其AI系统不应造成意外后果或延续偏见，并将努力减少幻觉。