AI News HubLIVE
站内改写1 分钟阅读

CreativityNeuro:通过引导语言模型权重提升发散思维并减少模式崩溃

CreativityNeuro是一种无需数据的方法,通过对比权重引导增大大语言模型的发散思维,在多项创造力测试中将性能提升多达14个人类百分位点,并显著减少模式崩溃。

来源arXiv AI作者: Samuel Schapiro, Core Francisco Park, Felix Sosa, Lav R. Varshney

大语言模型在处理开放性问题时常常表现出趋同倾向,即不同提示下的回答高度相似,这种现象被称为“人工蜂群思维效应”。这种效应严重限制了模型的创造性潜力。为了解决这一问题,研究团队提出了CreativityNeuro,一种无需依赖行为数据、重新训练或梯度微调的方法,通过对比权重引导来增强发散思维。

该方法通过调整模型权重来鼓励输出多样性,而不是像传统方法那样仅修改激活层。在发散关联任务(DAT)这一词汇空间创造力评估中,CreativityNeuro将模型的表现提升了多达14个人类百分位点。随后,在包含720名参与者的替代用途测试(AUT)和任务任务(Task Task)的大规模人类评估中,该方法在原创性、惊喜度和创造性方面均实现了显著提升,并成功迁移到更长篇幅和更开放的任务中。

值得关注的是,CreativityNeuro在所有三项测试中均有效降低了模式崩溃现象。与激活引导方法相比,权重空间引导在未知任务上展现出了更好的泛化能力:激活引导虽然在DAT上表现与CreativityNeuro相当,但无法迁移到AUT和任务任务,这说明权重空间引导在泛化能力上具有独特优势。

该研究成果已被ICML 2026创造力与生成式AI研讨会接收。研究者指出,CreativityNeuro为提升LLM在创造性领域的表现提供了一种简单而有效的途径,无需额外数据或计算资源,即可显著改善发散思维并减少模式崩溃。这一发现对于构建更具创造力的AI系统具有重要意义,尤其适用于广告文案生成、创意写作、头脑风暴等需要多样化输出的场景。未来工作可能进一步探索权重引导在其他认知任务中的应用。