大型语言模型在回答开放式问题时常常给出雷同的答案,这种现象被称为“人工蜂群效应”。为了缓解这一问题,来自 Samuel Schapiro 等研究者的论文《CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse》提出了一种名为 CreativityNeuro 的新方法,旨在提升模型的发散思维能力。该论文已被 ICML 2026 创造力与生成式 AI 研讨会接收。
CreativityNeuro 的核心是一种无需数据的对比权重引导技术。与需要行为数据、重新训练或基于梯度的微调不同,该方法直接对语言模型的权重进行操作,通过对比引导来增强模型生成多样化响应的能力。研究团队在多个创造力评估任务上对该方法进行了测试,并报告了多项关键发现。
首先,在发散联想任务(Divergent Association Task, DAT)——一个词汇空间的创造力测试——上,CreativityNeuro 将模型的表现提升了高达 14 个人类百分位点。这表明该方法能有效增强模型在词汇联想层面的发散性。
其次,研究团队进行了一项涉及 720 人的大规模人类评估,使用替代用途任务(Alternative Uses Test, AUT)和 Task Task 来评估模型的创造力。结果显示,CreativityNeuro 在原创性、惊喜度和创造性方面均取得了显著提升,并且这些改进能够迁移到更长形式、更开放的任务中。
重要的是,在所有三个任务中,CreativityNeuro 都显著减少了模式崩溃的度量。模式崩溃是指模型倾向于生成重复或单一模式的输出,而该方法通过权重引导促进了输出的多样性。
研究还对比了激活引导(activation steering)与权重引导的效果。激活引导在 DAT 上取得了与 CreativityNeuro 相当的性能,但它无法迁移到 AUT 和 Task Task 上。这一对比凸显了权重空间引导在泛化到未见任务方面的优势。
综上所述,CreativityNeuro 无需行为数据、重新训练或梯度微调,就能提升发散思维并减少模式崩溃,为增强语言模型在创造性领域中的表现提供了一种直接而有效的手段。该方法的代码和数据等资源尚未在论文中提及,但这一研究为未来开发更具创造力的 AI 系统开辟了新的方向。