歐盟AI法案自2025年8月2日起生效，要求微調大型語言模型（LLM）的組織跟蹤浮點運算量（FLOPs），以確定其合規義務。如果微調消耗的計算資源超過一定閾值，組織將從下游使用者重新分類為通用人工智慧（GPAI）模型提供商，需承擔更嚴格的披露和合規責任。為幫助客戶應對這一挑戰，Amazon SageMaker AI整合了開源工具Fine-Tuning FLOPs Meter。該工具可自動計算微調過程中的FLOPs，並與歐盟AI法案規定的閾值進行比較，生成審計就緒的文件。
FLOPs閾值根據三種場景確定：如果預訓練計算量已知且≥10²³ FLOPs，則閾值為實際預訓練計算的30%；如果未知或小於10²³ FLOPs，則預設閾值為3.3×10²² FLOPs；對於系統性風險模型（預訓練FLOPs≥10²⁵），未知時閾值為3.3×10²⁴ FLOPs。例如，微調Llama-3-70B（預訓練約1.5×10²⁴ FLOPs）的閾值為4.5×10²³ FLOPs，超限即觸發全套合規義務。手動跟蹤FLOPs面臨公式複雜、閾值難以確定、審計記錄維護繁瑣等挑戰。Fine-Tuning FLOPs Meter透過自動化流程解決這些問題。工具覆蓋微調生命週期的三個階段：預訓練估算、執行時跟蹤和後訓練審計。使用者只需在配置中新增compute_flops: true即可啟用。
技術實現方面，FLOPs計算採用歐盟推薦的架構分析法（6×P×D）或增強公式（考慮LoRA等引數高效方法），同時透過NVML提供硬體上限。閾值邏輯自動判斷適用場景並標記超限情況。整合方式為Hugging Face Trainer回撥，在訓練啟動時初始化，完成後輸出JSON格式的合規指標，並可儲存至S3或DynamoDB。實踐演練以meta-llama/Llama-3.2-3B-Instruct為例，因Meta未公佈預訓練FLOPs，預設閾值生效。使用者可透過可選的預訓練估算工具比較不同訓練方法的FLOPs，並在訓練完成後檢視審計報告。該工具幫助組織高效合規地微調LLM，避免因計算資源跟蹤不當而面臨高達1500萬歐元或全球年營業額3%的罰款。