并行LLM推理实现偏差弹性、稳健的概念抽象
本研究提出一种结合并行分块处理与证据锚定整合的结构化框架，显著减少了长文档分析中的遗漏错误和无依据声明，将遗漏错误降低约84%，证据可追溯性提升高达130%，无依据声明减少高达91%。小型模型受益最大，表明高效并行分块与整合对于实现可靠且可扩展的文本分析至关重要。
大型语言模型（LLM）在文本分析中的应用日益广泛，然而，当面对长文档时，由于需要顺序处理，模型容易受到早期或重复出现的概念的影响，导致后续分析产生系统性偏差。具体来说，顺序处理使得那些在文档开头或频繁出现的概念占据了主导地位，而一些虽不显眼却蕴含重要信息的解释则被忽略，从而造成遗漏错误和过度概括。此外，当模型在不参照原始文本的情况下合并多个独立生成的输出时，往往会引入重复信息、概念漂移以及缺乏依据的主张。针对这些挑战，本研究提出了一种结构化框架，名为“并行分块处理与证据锚定整合”。该框架首先将文档分割成语义上连贯的文本块，每个块被独立且并行地处理，从而避免了顺序处理中的偏差累积。随后，系统会利用显式的证据锚定机制——即从原始文本中提取具体的证据片段——来整合各个块的解释，并通过优先级排序减少主导概念的权重，同时提高解释的可追溯性。实验覆盖了多种模型类型（包括不同规模和架构的模型），结果表明，采用并行处理可以显著降低遗漏错误，幅度约为84%；证据可追溯性提升最高可达130%；无根据的主张减少最高可达91%。值得注意的是，小型模型从中获益最大，这表明高效的并行分块与整合策略能够有效增强小型模型的可靠性，从而在降低计算成本的同时实现可扩展的文本分析。该研究成果已被2026年第九届智能系统会议（Intelligent Systems Conference 2026）接收，将于2026年9月3日至4日在荷兰阿姆斯特丹举行。