欧盟AI法案自2025年8月2日起生效，要求微调大型语言模型（LLM）的组织跟踪浮点运算量（FLOPs），以确定其合规义务。如果微调消耗的计算资源超过一定阈值，组织将从下游用户重新分类为通用人工智能（GPAI）模型提供商，需承担更严格的披露和合规责任。为帮助客户应对这一挑战，Amazon SageMaker AI集成了开源工具Fine-Tuning FLOPs Meter。该工具可自动计算微调过程中的FLOPs，并与欧盟AI法案规定的阈值进行比较，生成审计就绪的文档。
FLOPs阈值根据三种场景确定：如果预训练计算量已知且≥10²³ FLOPs，则阈值为实际预训练计算的30%；如果未知或小于10²³ FLOPs，则默认阈值为3.3×10²² FLOPs；对于系统性风险模型（预训练FLOPs≥10²⁵），未知时阈值为3.3×10²⁴ FLOPs。例如，微调Llama-3-70B（预训练约1.5×10²⁴ FLOPs）的阈值为4.5×10²³ FLOPs，超限即触发全套合规义务。手动跟踪FLOPs面临公式复杂、阈值难以确定、审计记录维护繁琐等挑战。Fine-Tuning FLOPs Meter通过自动化流程解决这些问题。工具覆盖微调生命周期的三个阶段：预训练估算、运行时跟踪和后训练审计。用户只需在配置中添加compute_flops: true即可启用。
技术实现方面，FLOPs计算采用欧盟推荐的架构分析法（6×P×D）或增强公式（考虑LoRA等参数高效方法），同时通过NVML提供硬件上限。阈值逻辑自动判断适用场景并标记超限情况。集成方式为Hugging Face Trainer回调，在训练启动时初始化，完成后输出JSON格式的合规指标，并可存储至S3或DynamoDB。实践演练以meta-llama/Llama-3.2-3B-Instruct为例，因Meta未公布预训练FLOPs，默认阈值生效。用户可通过可选的预训练估算工具比较不同训练方法的FLOPs，并在训练完成后查看审计报告。该工具帮助组织高效合规地微调LLM，避免因计算资源跟踪不当而面临高达1500万欧元或全球年营业额3%的罚款。