在Amazon Bedrock上构建生成式AI应用时，提示工程一直是手动工作量最大的环节之一。当新模型发布时，团队通常需要花费数天到数周的时间来优化提示并重新评估响应，这导致了模型锁定、性能欠佳、回归不可见以及迭代周期缓慢等问题。为了解这一痛点，Amazon Bedrock推出了高级提示优化功能。该功能采用指标驱动的反馈循环，基于强化学习风格对提示进行迭代优化，而不改变模型权重。用户只需提供提示模板、示例输入、可选的真实答案和评估指标，系统就会自动发送请求、评估响应并重写提示，直到提示在指定指标上达到最优。该功能支持最多5个模型同时优化，并输出原始和优化后的提示及其评估分数、首Token延迟（TTFT）和成本估算。
在评估方面，高级提示优化提供了三种模式：AWS Lambda函数模式适用于需要精确指标（如准确率、F1分数）的场景；LLM作为评判模式适用于开放式任务（如摘要、推理）；引导标准模式则用于控制品牌语调、格式和安全约束。此外，该功能还支持多模态输入，包括PNG、JPG、JPEG、GIF、WebP和PDF格式的文件。
用户可以通过控制台或API/SDK使用该功能。在控制台中，创建优化作业、选择模型、上传JSONL格式的输入数据集，然后提交作业。结果页面会显示优化前后的评估分数、优化后的提示、每个样本的TTFT以及成本估算。通过API/SDK，用户可以使用boto3创建作业、轮询状态并下载结果。
Amazon Bedrock高级提示优化有效缩短了提示工程周期，使团队能够更快速地迁移到新模型或改进现有模型，从而提升生成式AI应用的性能、降低成本并加速迭代。