大型语言模型（LLM）在遵循指令和复杂推理方面能力不断增强，使提示词（prompt）成为一种无需更新参数即可灵活适配模型的接口。然而，提示词设计仍然是劳动密集型工作，并且对格式、措辞和指令顺序高度敏感。这种敏感性促使研究者开发自动化提示词优化方法，希望在减少人工投入的同时保留推理阶段的灵活性。现有方法通常是在候选提示词之间进行搜索，或使用由单个样例或小批量样例驱动的固定“批评—改进”流水线。这类做法难以捕捉系统性的错误模式，也难以基于失败历史做出有针对性的修改。
为此，论文作者提出“反思式提示词调优”（Reflective Prompt Tuning，RPT），一个利用 LLM 函数调用（function calling）来模拟人类提示词工程师迭代工作流程的框架。在 RPT 中，一个 LLM 优化器会调用诊断函数。该诊断函数在整个优化集上评估目标模型，总结反复出现的失败模式，并返回结构化的诊断报告。随后，优化器结合这份报告以及此前累积的报告记忆，来修订下一轮迭代所使用的提示词。RPT 还支持“置信度感知”的优化：它利用诊断反馈中的校准信号，并将这些信号用于最终提示词的选择。
该论文由 Farima Fatahi Bayat 等四位作者撰写，于 2026 年 5 月 20 日提交至 arXiv，属于计算与语言（cs.CL）领域，共 17 页、6 幅图。论文摘要指出，在三个推理任务上，RPT 相比初始提示词最多提升 12.9 分，与当前最先进方法相比具有竞争力，同时改善了置信度校准。分析显示，RPT 在多跳推理和数学推理上尤其有效：它能够产生与诊断出的失败模式相吻合的针对性提示词修改，从而提升任务表现和校准质量。
从方法定位看，RPT 的关键区别在于诊断的范围与记忆机制。它不是根据个别样例做局部修补，而是让诊断函数覆盖整个优化集，从而识别系统性失败模式；同时，优化器保留历次诊断报告的记忆，使后续修改能够参考完整的失败历史。这种设计更接近人类提示词工程师反复观察、归纳问题并有针对性地改写指令的过程。
论文还强调了置信度校准这一维度。除了追求任务准确率，RPT 在诊断反馈中引入校准信号，并据此进行最终提示词选择，使模型输出的置信度更可靠。作者概括称，RPT 在三个推理任务上相较初始提示词最多提升 12.9 分，保持与最先进方法相当的水平，并改善置信度校准；在多跳与数学推理任务上收益尤为明显。这些结果说明，将函数调用、结构化诊断与历史记忆结合起来的提示词优化路径，有望在无需参数更新的前提下提升推理性能与输出可靠性。