Mira Murati的Thinking Machines Lab提出基于可定制模型权重的以人为中心AI技术方案

Thinking Machines Lab近日发布了一份名为《值得构建的未来以人为本》的报告，详细阐述了如何构建能够延伸人类意志和判断的AI系统。该实验室由Mira Murati领导，其核心理念是当前大多数AI模型在少数地方训练后被冻结，这种设计排斥了模型所服务的用户。相反，研究人员主张AI应当是分布式的、可定制的，并且由其用户塑造。

报告明确提出了四个技术方向。第一，训练具备多模态交互和可定制性的强模型。第二，构建工具让人们能够自行微调和训练模型权重。第三，开发能够拓宽人机通信渠道的界面。第四，发表研究成果以便更多工程师理解模型的构建过程。这些方向共同将知识和对齐推向用户。

在这些方向背后，报告对知识本身提出了一个主张：大量技能是隐性、本地化的，并通过反馈不断更新。例如，厨师改进菜谱时无法将该技能写入数据库。报告引用了Michael Polanyi和Friedrich Hayek的观点来支持这一论断。中央计划之所以失败，正是因为这类知识是私密且短暂的，而非稀缺的。因此，实验室认为AI必须是分布式的，以利用分布式知识。AI应帮助组织培养知识，而非提取和取代知识。报告指出，棋类和数学是例外，因为这两个领域具有静态、可表达的目标且没有隐藏知识，因此自我对弈和自主求解在这些领域表现出色。但在此类封闭领域之外，仅凭智能是不够的。

报告将两个已知的限制重新定义为工程目标。第一是通信渠道：一个小文本框和漫长的等待。实验室的交互模型正针对这一问题设计，这些模型持续输入音频、视频和文本，采用约200毫秒的微回合。第二是评估本身：像METR那样的基准测试衡量的是模型单独工作的时间长度，但报告认为这忽略了人与机器共同完成的任务。

在接口之外，报告转向了价值观的归属。一个单一的对齐权威会变成单点捕获。提示可以改变表面行为，但深层的模型习惯保持不变。因此，实验室主张价值观应编码在模型权重中，而非提示中。这就是Tinker API对工程师变得具体的地方。Tinker使用LoRA微调开放权重的模型，如Llama和Qwen。它暴露底层原语，并允许导出可移植的适配器权重。示例代码展示了简单的监督学习循环，使用Tinker API进行前向、反向传播和优化步骤，最后保存微调后的权重。

报告将其立场与当前的默认方法进行了对比。在集中冻结AI中，模型在少数实验室训练后冻结；而在Thinking Machines的分布式方法中，模型在工作发生的地方适应。谁塑造价值观：前者的模型所有者，后者的组织及其用户。适应方式：前者的提示和脚手架，后者的微调权重。接口：前者的文本框和轮流等待，后者的实时多模态交互模型。对齐场所：前者的单一中心规范，后者的多个多样化、拥有的模型。

这些思想映射到具体的工程工作中。例如，医院可以针对自身协议微调模型，并将数据和适配器权重保留在内部。律师事务所可以根据内部风格调整模型，并在内部指导变化时重新训练。支持团队可以使用实时交互在任务中途纠正模型。在每种情况下，组织都保持所有权，而不是租用一个固定的模型。

总之，报告将人类参与视为一项技术挑战，而非能力的限制。隐性、本地化知识是AI本身必须分布式的明确理由。交互模型通过连续、微回合的多模态输入拓宽了人机通道。Tinker让团队将自己拥有的价值观编码到可移植的LoRA权重中。实验室将对齐定义为许多多样化、拥有的模型，而非一个中心规范。