微软负责任AI系统构建框架

微软近日正式公开了其负责人工智能标准（Responsible AI Standard），这是一套旨在指导公司如何构建AI系统的全面框架。该标准的核心目标是将人工智能的发展引向更有益、更公平的方向，强调以人为中心的设计理念，并尊重公平、可靠与安全、隐私与安全、包容、透明和问责等基本价值观。

与以往许多组织发布的抽象AI原则不同，微软的这套标准提供了具体、可操作的指导。它将每个价值观分解为团队在系统生命周期中必须努力实现的具体目标或成果，例如进行影响评估、实施数据治理和建立人工监督机制。每个目标又由一系列可验证的要求组成，确保团队能够逐步落实。此外，标准还详细列出了可用的工具和最佳实践，帮助团队有效实施。

微软在制定标准的过程中，从自身产品经验中吸取了深刻教训。以语音转文字技术为例，2020年的一项学术研究发现，该技术对某些黑人和非裔美国人社区的语音识别错误率几乎是白人用户的两倍。微软团队反思后认识到，其预发布测试未能充分覆盖不同背景和地区人群的语音多样性。随后，他们聘请了社会语言学专家，扩大了数据收集范围，成功缩小了性能差距。这一经验被纳入标准的公平性目标中，帮助其他团队提前识别和防范潜在的公平性问题。

另一个重要案例是自定义神经语音技术（Custom Neural Voice），该技术能生成与原始声音几乎相同的合成语音。虽然它在教育、无障碍和娱乐领域有巨大潜力，但也可能被滥用于冒充他人和欺骗听众。微软通过标准中规定的敏感用途审查流程，采用了分层控制框架：限制客户访问权限、明确可接受的使用案例并通过透明度说明和行为准则进行沟通，以及建立技术保障措施确保说话者在创建合成语音时的主动参与。这些措施在保护技术不被滥用的同时，保留了其有益用途。微软还计划将类似控制措施应用于面部识别服务。

此外，微软还根据标准要求调整了Azure人脸服务，退出了推断情绪状态以及性别、年龄、微笑、胡须、发型和妆容等身份属性的功能。公司内外专家指出，关于“情绪”的定义缺乏科学共识，这类推断在不同使用场景、地区和人群中的泛化存在挑战，且隐私问题更为突出。微软决定不再提供开放式API访问这些能力，并将对所有声称推断情绪状态的AI系统进行仔细分析。

微软的负责任AI标准是一份活的文档，将随着新研究、技术、法律和公司内外的经验而不断演进。微软承诺与业界、学术界、民间社会和政府合作，共同推进负责任AI的发展。通过分享标准及相关资源（如影响评估模板和透明度说明），微软希望为建立更好的AI规范和实践做出贡献。