三位科技远见者谈如何通过AI建立信任与问责制
Vint Cerf、David Bray和Cheryl Strauss Einhorn三位专家在DisrupTV播客中讨论如何设计健康的人机关系，强调明确指令、辨别AI输出可信度以及确立问责机制的重要性。
在最近一期的DisrupTV播客中，联合主持人Ray Wang与三位科技远见者——互联网共同创始人Vint Cerf博士、曾在9/11事件和炭疽攻击中担任技术领导的David Bray博士，以及获奖调查记者兼Decisive公司CEO Cheryl Strauss Einhorn——深入探讨了如何构建值得信赖且负责任的AI关系。
Cerf博士指出，AI的兴起如同“遇到了一种新生命形式”，我们需要理解它的思维方式。他特别担心AI代理之间使用自然语言交流时可能产生误解，并以“光速”执行错误指令。他回忆道，即使是确定性程序也存在“你让它们做的事情并非你真正想要的”这种bug，AI时代这一问题将更加突出。
Bray博士则主张将AI视为“外星交互”，以避免拟人化带来的误导。他形象地比喻当前的状态为“1910年的街道”，电车、汽车、行人和马匹共享道路，却还没有红绿灯或人行道。他强调，现代企业中的多种AI模型、本地模型、人类用户和分析软件共存，正需要类似交通规则般的治理机制。此外，他提醒到2030年，超过40%的网络信息将由AI合成，这对CEO和董事会提出巨大挑战。
Einhorn女士从决策科学角度提出，每个人都有自己的决策“秘方”——即独特的认知方式。要有效引导AI，必须先深入了解自己的秘诀，而不是依赖AI给出他人现成的答案。她区分了两种使用AI的方式：像“外科医生”那样寻求精确答案，以及像“兰博基尼驾驶员”那样在高速决策中驾驭复杂过程。两者都需要不同的技能和风险意识。
关于责任归属，Cerf博士强调必须建立“追索机制”，以便在AI出错时个人和组织能够寻求补救。Bray博士则提出“AI代理悬挂谁的旗帜？”的问题，即使用AI的组织必须为其行为负责。Einhorn女士补充说，当“锤子落下”时，承受后果的是人类，而非AI本身。
三位专家一致认为，成功的未来取决于人类与AI之间的健康关系。这要求清晰、无歧义的指令，良好的判断力来辨别AI输出的可信度，以及明确的问责框架。企业、社区和国家需将AI视为“团队中的一员”，认可其网络化互动特性，并超越图灵测试，专注于增强人类能力。