AI News HubLIVE
站内改写2 分钟阅读

风险自有其主,而并非AI

本文探讨了在采购中应用AI时的风险归属问题。作者认为,风险总是由人承担,AI只是辅助工具。真正的采购工作不仅是优化,还包括处理复杂的人际关系和应对不确定性。文章强调,问责线会随着资本规模而变化,但风险的所有权始终属于人。

来源Hacker News AI作者: aaddrick

本文源自作者在Reddit论坛r/artificial上关于AI在采购中应用的一则评论。作者开篇澄清,这篇文章并非推销AI治理平台或采购框架,而是个人思考的整理。

作者的专业领域是设备与设施的资本支出采购、部署及实施。他指出,资本支出采购并非单纯的优化问题,而是在不确定性中进行的交易和风险管理。举例来说,一个200万美元的定制设备项目出现延误,该如何应对?答案取决于对风险的了解和承受能力:可能追加资金加快进度,可能利用进度缓冲,可能采用临时替代方案,也可能要求供应商分担成本。这些选项没有绝对正确的答案,只有基于具体情境的风险判断。

核心论点在于:风险归人所有。这并非偏好或最佳实践,而是一个结构性的基本事实。当决策失误时,没有人会接受“AI干的”作为借口。风险的所有者必须承担后果。即使AI完美运行,严格按照指令行事却导致不良后果(例如过度压榨供应商致其倒闭),责任仍在于那些让AI在无人监督的情况下执行决策的人。AI从根本上来说是建议性的,其速度再快也不改变这一本质。

关于问责线的问题:有人会反驳说,一个人无法亲自监督成千上万个决策。确实,数量与速度是现实挑战。超大规模企业的员工不会逐一审阅每一份采购订单。但问责线会随资本规模而变化:夫妻店不愿搞砸1万美元的设备,超大规模企业也不愿搞砸30亿美元的基础设施。不同规模的机构,问责线的位置不同,但始终存在。优秀的AI采购系统能够安全地扩展自动化范围,但不会抹去这条线,也不会转移风险的所有权。资本支出采购领域尤其安全,因为决策后果过于重大和显眼,没人能接受“模型决定”的说法。

最后,作者指出,即使治理模型设计得完美无缺——明确线上所有者、线下可审计行动、奖励函数涵盖商业、韧性和合规多维度——仍然会遗漏一些关键部分。优秀采购的诀窍在于确保双方共赢,尤其是在逆境中。这包括与供应商建立私人关系、理解合作伙伴的处境、以及过去积累的关系资本。这些都不是优化问题,AI无法替代,因为这部分工作从一开始就不是AI的目标。同样,AI也不会取代高管层,因为他们的职责是定义方向和承担风险——这是法律要求公司必须存在的角色。

结论:风险必有主人,问题在于你的治理模型是否知道问责线的位置。