跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

研究LLM的问题解决能力——基于静力学问题的研究

文章摘要

该研究通过模型蒸馏法提取25道文本静力学问题,并构建添加图表和修改数值的两个数据集,发现LLM在纯文本问题上表现良好,但引入图表和多步推理后准确率下降,下降主因并非图像识别限制,而是多步推理及跨步骤一致应用视觉信息的困难。

来源arXiv Computational Linguistics作者: Tanner Culleton, Hung-Fu Chang
研究LLM的问题解决能力——基于静力学问题的研究
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

这篇于2026年4月30日提交、发表在arXiv(编号2606.26103,属于cs.CL计算与语言方向,交叉cs.AI人工智能)的论文《Investigating LLM's Problem Solving Capability -- a Study on Statics Questions》,由Tanner Culleton与Hung-Fu Chang撰写,全文共9页,将在2026年工程技术研讨会上展示。研究关注的是一项常被忽视却相当实际的问题:大型语言模型在机械工程静力学这类专业知识上的解题能力究竟如何。

作者指出,大语言模型正迅速渗透社会各个领域,教育受到的冲击尤其明显,因为它们已能完成大量学科范围内的作业与考试题目。然而,已有关于LLM教育影响的研究大多建立在公开或开放题库之上,缺少针对具体主题的细致分析;在工程教育特别是机械工程领域,围绕特定题型系统评估模型表现的工作仍然有限。

在方法上,本研究没有沿用直接把教材题目抛给LLM工具的传统做法,而是采用模型蒸馏(model distillation)流程来考察模型能力。研究者以ChatGPT为对象进行蒸馏,从中提取出25道纯文本静力学题目,构建出基础数据集。随后,他们在此基础上又构造了两个额外数据集:一个为题目补充示意图,另一个则修改题目的数值,以此考察图像信息与数值变化对模型表现的影响。

实验结果呈现出清晰的层次:LLM在纯文本静力学问题上表现良好,但当题目引入示意图、且解答需要多步推理时,准确率就出现下降。进一步的案例分析表明,这一性能下滑的主要原因并非图像识别能力存在缺陷,而在于模型在多步推理方面存在困难,以及在连续的求解阶段中难以一致地运用从图像中提取出的信息。换言之,模型能够“看见”图形信息,却难以在后续每一步推导中稳定地沿用这些信息。

这一发现对工程教育具有直接含义:在静力学等依赖图示与链式推导的课程中,LLM作为解题或辅导工具的可靠性仍需谨慎评估。论文的结论也暗示,改进方向不应只聚焦于视觉识别模块,还应着力提升模型跨步骤推理的一致性,以及把视觉证据贯穿于整个求解流程的能力。

展开要点与分析

文章情报

工程师进阶

要点

  • 采用模型蒸馏法从ChatGPT提取25道静力学问题,构建了文本、图表和数值修改三个数据集。
  • LLM在纯文本静力学问题上表现良好,但添加图表后准确率下降。
  • 性能下降主要源于多步推理困难,而非图像识别能力不足。
  • 研究强调在工程教育中需关注LLM在需要多步推理和视觉信息整合的任务上的局限性。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。