跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

CreativityNeuro:透過引導語言模型權重提升發散思維並減少模式崩潰

文章摘要

CreativityNeuro是一種無需資料的方法,透過對比權重引導增大大語言模型的發散思維,在多項創造力測試中將效能提升多達14個人類百分位點,並顯著減少模式崩潰。

來源arXiv AI作者: Samuel Schapiro, Core Francisco Park, Felix Sosa, Lav R. Varshney
CreativityNeuro:透過引導語言模型權重提升發散思維並減少模式崩潰
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

大語言模型在處理開放性問題時常常表現出趨同傾向,即不同提示下的回答高度相似,這種現象被稱為“人工蜂群思維效應”。這種效應嚴重限制了模型的創造性潛力。為了解決這一問題,研究團隊提出了CreativityNeuro,一種無需依賴行為資料、重新訓練或梯度微調的方法,透過對比權重引導來增強發散思維。

該方法透過調整模型權重來鼓勵輸出多樣性,而不是像傳統方法那樣僅修改啟用層。在發散關聯任務(DAT)這一詞彙空間創造力評估中,CreativityNeuro將模型的表現提升了多達14個人類百分位點。隨後,在包含720名參與者的替代用途測試(AUT)和任務任務(Task Task)的大規模人類評估中,該方法在原創性、驚喜度和創造性方面均實現了顯著提升,併成功遷移到更長篇幅和更開放的任務中。

值得關注的是,CreativityNeuro在所有三項測試中均有效降低了模式崩潰現象。與啟用引導方法相比,權重空間引導在未知任務上展現出了更好的泛化能力:啟用引導雖然在DAT上表現與CreativityNeuro相當,但無法遷移到AUT和任務任務,這說明權重空間引導在泛化能力上具有獨特優勢。

該研究成果已被ICML 2026創造力與生成式AI研討會接收。研究者指出,CreativityNeuro為提升LLM在創造性領域的表現提供了一種簡單而有效的途徑,無需額外資料或計算資源,即可顯著改善發散思維並減少模式崩潰。這一發現對於構建更具創造力的AI系統具有重要意義,尤其適用於廣告文案生成、創意寫作、頭腦風暴等需要多樣化輸出的場景。未來工作可能進一步探索權重引導在其他認知任務中的應用。

展開要點與分析

文章情報

投資人進階

要點

  • 發散思維是創造力的關鍵,但LLM傾向於對開放性問題生成相似回答,形成“人工蜂群思維”效應。
  • CreativityNeuro透過對比權重引導,無需行為資料、重新訓練或梯度微調即可提升發散思維。
  • 在發散關聯任務中效能提升多達14個人類百分位點,並在大規模人類評估中提高了原創性和驚喜度。
  • 權重空間引導比啟用引導在未知任務上泛化更佳,有效降低模式崩潰。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。