並行LLM推理實現偏差彈性、穩健的概念抽象
本研究提出一種結合並行分塊處理與證據錨定整合的結構化框架，顯著減少了長文件分析中的遺漏錯誤和無依據宣告，將遺漏錯誤降低約84%，證據可追溯性提升高達130%，無依據宣告減少高達91%。小型模型受益最大，表明高效並行分塊與整合對於實現可靠且可擴充套件的文本分析至關重要。
大型語言模型（LLM）在文本分析中的應用日益廣泛，然而，當面對長文件時，由於需要順序處理，模型容易受到早期或重複出現的概念的影響，導致後續分析產生系統性偏差。具體來說，順序處理使得那些在文件開頭或頻繁出現的概念佔據了主導地位，而一些雖不顯眼卻蘊含重要資訊的解釋則被忽略，從而造成遺漏錯誤和過度概括。此外，當模型在不參照原始文本的情況下合併多個獨立生成的輸出時，往往會引入重複資訊、概念漂移以及缺乏依據的主張。針對這些挑戰，本研究提出了一種結構化框架，名為“並行分塊處理與證據錨定整合”。該框架首先將文件分割成語義上連貫的文本塊，每個塊被獨立且並行地處理，從而避免了順序處理中的偏差累積。隨後，系統會利用顯式的證據錨定機制——即從原始文本中提取具體的證據片段——來整合各個塊的解釋，並透過優先順序排序減少主導概念的權重，同時提高解釋的可追溯性。實驗覆蓋了多種模型型別（包括不同規模和架構的模型），結果表明，採用並行處理可以顯著降低遺漏錯誤，幅度約為84%；證據可追溯性提升最高可達130%；無根據的主張減少最高可達91%。值得注意的是，小型模型從中獲益最大，這表明高效的並行分塊與整合策略能夠有效增強小型模型的可靠性，從而在降低計算成本的同時實現可擴充套件的文本分析。該研究成果已被2026年第九屆智慧系統會議（Intelligent Systems Conference 2026）接收，將於2026年9月3日至4日在荷蘭阿姆斯特丹舉行。