值得构建的未来是人性化的

在人工智能日益强大的今天，决定AI应该做什么仍然取决于人类——个人、组织乃至整个人类。这些决策需要人们在与AI协作的工作中不断积累的知识和判断力。Thinking Machines的使命是构建能够延伸人类意志和判断的AI。他们认为，当前大多数AI在少数地方训练后便冻结，无法被所服务的人群塑造，也无法从共同工作中学习。要延伸人类的意志和判断，就需要像人类自身一样多样化和分布式的AI。

知识是隐性的、局部的、短暂的，并且通过工作私有地持有。这就像厨师创作新食谱或店主调整商品陈列一样，他们追求复杂目标并应用外人难以理解的诀窍。这种知识不断通过反馈更新，无法被写入数据库。中央计划失败不是因为智力不足，而是因为生产性知识本质上是隐性和分散的。因此，AI要从分布式知识中受益，本身也必须分布式。每个组织都由其人员的专业知识驱动，AI应帮助组织培育这种独特知识，而非提取快照并用标准产品取代。

保持人类参与设定目标和共享知识并不意味着抵抗自动化。机器能可靠自主完成的事情应该由它做，但它也应知道何时独立行动、何时邀请监督。这需要AI设计的新方法。目前人机交互的主要瓶颈是通信渠道——一个小文本框和漫长的等待。Thinking Machines正长期押注于交互模型，使模型原生支持实时多模态交互。这种方式使交互性随智能提升而增强。此外，评估标准也需要改变。当前衡量AI智能的常见指标是模型自主执行软件任务的时间跨度，但这只衡量AI独立能力，而非人机协同效果。后者需要每个组织自行评估。

人类价值观与人类知识一样，存在于个体头脑中，难以整合。但今天AI的价值观和声音由少数地方决定。单一的价值对齐点虽运行良好，却可能成为被俘获的权力中心。这尤其危险当大部分有价值工作由AI独立完成时。即使出于最好意图，在一处塑造的模型必然编码其所有者的价值观，而非所服务的个体用户。去中心化对齐使AI与其用户自身价值观一致，这需要将价值观编码到模型权重中。同时，赋予深刻塑造模型的力量也伴随风险，但保持安全是一个持续过程。人类通过个体独特性与创造性张力而繁荣，对齐应是一个由不同地方培养的AI生态系统，相互竞争和学习。

Thinking Machines相信值得构建的未来是人性化的——由人类知识塑造、由人类意志引导、由人类判断决定。他们通过训练强大模型、构建定制工具、开发交互界面、发表研究来推进这一愿景。他们希望将智能带到知识产生和使用的地方，使每个组织都能以自己独特的方式卓越。