追求纯粹（做AI的正确方式）
作者从自身在宗教家庭成长的经历出发，探讨了AI伦理中“正确方式”的复杂含义。文章对比了Anthropic CEO Dario Amodei强调“引导而非阻止”的立场，与Anil Dash推崇的开源、伦理数据来源的AI工具，并穿插了AI工程师社区中的不同实践。作者最终主张通过倾听多方观点和亲自实验，形成自己的判断。
文章情报
要点
- 作者将青少年时期宗教团体对“纯洁”的追求，类比为当前AI伦理中对“正确方式”的讨论。
- Dario Amodei将AI比作不可阻挡的火车，认为关键不是停下它，而是引导它避开危险。
- Anil Dash提出“好的AI”应使用合意数据、开源、可在本地运行，并以CorridorKey为例。
- 作者认为没有绝对的“正确方式”，建议工程师通过倾听和实践找到自己的立场。
为什么重要
这条新闻值得关注，因为作者将青少年时期宗教团体对“纯洁”的追求，类比为当前AI伦理中对“正确方式”的讨论。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
我成长于一个非常虔诚的宗教家庭。我并不认为这本身是好是坏，但作为这个故事的一部分，它很重要。十几岁时，我大多数周五晚上都在青年团契度过，为人们祈祷或打扫卫生。那时我被招募去领导一个名为“应许女孩”（没错，你可以笑，因为它正是你想的那样！）的团体。这个纯女性团体的目标是追求纯洁，以侍奉上帝和我们未来的丈夫——做正确的事。该团体的核心活动是聚在一起讨论其他女孩约会有多么糟糕，而我们这些纯洁的人则聚在一起为尚未见面的丈夫祈祷。有时会有演讲嘉宾来告诉我们，其他女孩在高中约会是因为她们在某种程度上破碎了，或者自尊心低等等。回想起来，我为自己当时的样子感到自豪：意志坚定，不易受影响，道德上确信。我认为这是个好状态，但也有很多缺点。
前几天我在LinkedIn上看到Python社区一位好朋友的博客文章，讨论为什么任何有道德的人会在大型科技公司或实验室从事AI工作。这是个公平的问题。评论中有人说他认为主要是来自第三世界国家的人别无选择。另一人说是那些太依赖金钱的人，而正确的方式是在你信任的公司工作。这个对话在我脑海里萦绕了两周，我想在这里探讨一下。
我最近看了Dario和Daniela Amodei接受Oprah采访的视频。当被问及为什么他们竞相构建一项Dario曾说过可能导致人类灭绝的技术时，Dario回应说：“这项技术对人类来说是划时代的变革。人类开始用火，后来发明了蒸汽机和工厂，引发了工业革命……但我们明白工业革命作为一个过程，作为技术事件，是值得做的。我们不想住在洞穴里，但需要以正确的方式管理它。我们对这家公司的想法是：有很多公司在构建这项技术。这无论如何都是正在发生的事。我们身在其中。有一列火车正在快速驶向某个方向。你不想让它坠毁。你无法停下火车。但你能做的是引导火车，让它不撞上岩石。我们认为Anthropic的目标是以正确的方式做事，将风险降低到零，以正确的方式做事。”在这个回答中，Dario三次提到了“以正确的方式”！这到底意味着什么？它隐含的意思是：AI已经存在，它是好事，不会停止，但火车需要刹车，人们需要被警告。在伦敦的Code with Claude会议间隙，我有机会与一些Anthropic员工交谈。我问他们怎么想。话题转向了Mythos和Project Glasswing，以及为什么有些事情要先到那里以确保安全。我觉得这很公平，但不确定是否足够。许多人在网上说他们认为Anthropic的道德立场是恐惧营销或营销策略。我同样不确定。
另一方面，几周前，Glitch前创始人兼StackOverflow前总监Anil Dash分享了一篇题为“（一个）好的AI来了”的博客。他在LinkedIn上写道：“我们这些既对大型AI有合理批评，又相信机器学习系统如果更负责任会很有帮助的人，一直在等待以正确方式制造的工具。我一直说可以拥有只使用合意收集的内容、开源且开放权重、能在本地机器上运行、旨在赋能创作者而非剥削他们的AI……”你应该自己读这篇博客，但Anil重点介绍了一个由Corridor Digital创建的视频生成AI工具。该工具帮助创作者将视频转换为风格化视觉效果，同时保留原始表演、动作和镜头内容。他们制作了一个视频，有190万观看量！尽管使用了相同的技术，但CorridorKey与Sora或VEO的区别在于其构建和分发方式：伦理获取的数据、开放权重且免费使用。虽然我们素未谋面，但我非常尊重Anil，他说这是正确的方式。
我个人热爱开源，认为Python社区的一个闪光点是他们对伦理和技术如何影响人们的深思熟虑。我对此的疑虑在于，开放权重模型和AI技术都在一定程度上依赖于大型实验室的研究成果。我不确定我们能否完全摆脱达到这一点的过程。批评和重新思考我们构建这些系统的方式是值得追求的。我认为开放权重模型将成为未来AI系统的重要组成部分，但我犹豫是否要说这是所有事情的正确方式。我对此有很多想法，但留待以后更长的博客再谈。
纯粹重要吗？什么是做AI的正确方式？
我不再是青少年了，我也不再相信我高中时其他女孩约会是因为她们有问题。事后看来，我认为那时去约会一些会对我有好处，这样我就可以自己做出明智的决定，而不是依赖别人告诉我做什么。这也是我对如何使用/从事AI得出的结论——至少目前如此。
人们对AI的使用方式大相径庭。在AI Engineer Europe会议上，我的朋友Mario Zechner（创造了Pi，据说Armin Ronacher也参与了）谈到我们需要放慢脚步，保持人类监督，并尝试考虑将哪些任务分配给智能体，以及在哪些地方人类应介入代码。他的演讲与OpenAI的Ryan Lopopolo的演讲形成对比，后者谈到代码是一种丰富资源，我们应该允许智能体完成完整的工程任务，人类只引导过程而不写代码。随后我在DjangoCon Europe演讲时，遇到了两位完全不使用AI的工程师。他们没有道德或伦理理由，一个担心AI会犯错，另一个只是觉得学习新事物的认知负担太重。我认识的几位工程师供职的公司因AI解雇了人员。同时，许多工程师因token成本而被限制AI编码支出。事情太多了！
我想以这句话结束这篇博客：我认为你能为自己做的最好的事情就是倾听和实验。根据你在LinkedIn上关注的人、参加的会议或工作的公司，当有人谈到“做AI的正确方式”时，你脑海中可能会浮现不同的东西。范围很广，我认为听取尽可能多的观点是有帮助的，这样你才能知道这一点。最终，无论别人在博客里写什么，你都是需要在这个行业未来生存下来的工程师。你也是一个人，需要调和你的信念、道德立场以及这些如何塑造你的行动。我自己仍在思考这些问题，如果你有想法，我很乐意听听。如果你愿意，请给我留言。感谢阅读！