本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

Amazon SageMaker AIでのLLMファインチューニングにおけるEU AI Act要件への対応

記事の要約

この投稿では、Amazon SageMaker AI上でオープンソースツールFine-Tuning FLOPs Meterを使用してLLMファインチューニング中のFLOPsを追跡し、EU AI Actのコンプライアンス状況を判断する方法を説明します。単一の設定フラグでコンプライアンスステータスを判定し、監査対応のドキュメントを生成します。

ソースAWS Machine Learning Blog著者: Shukhrat Khodjaev
Amazon SageMaker AIでのLLMファインチューニングにおけるEU AI Act要件への対応
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

EU AI Actは2025年8月2日より発効し、大規模言語モデル(LLM)をファインチューニングする組織に浮動小数点演算量(FLOPs)の追跡を義務付けています。ファインチューニングで消費される計算リソースが一定の閾値を超えると、組織はダウンストリームユーザーから汎用人工知能(GPAI)モデルプロバイダーに再分類され、より厳格な開示とコンプライアンス責任を負うことになります。この課題に対処するため、Amazon SageMaker AIはオープンソースツールのFine-Tuning FLOPs Meterを統合しています。このツールはファインチューニング中のFLOPsを自動計算し、EU AI Actの閾値と比較して監査対応のドキュメントを生成します。

FLOPsの閾値は3つのシナリオに基づきます。プリトレーニング計算量が既知で10²³ FLOPs以上の場合は実際のプリトレーニング計算量の30%、未知または10²³ FLOPs未満の場合はデフォルト3.3×10²² FLOPs、システムリスクモデル(プリトレーニングFLOPs≧10²⁵)の場合は未知で3.3×10²⁴ FLOPsです。例えば、Llama-3-70B(プリトレーニング約1.5×10²⁴ FLOPs)の閾値は4.5×10²³ FLOPsで、超過すると全コンプライアンス義務が発生します。手動でのFLOPs追跡は、計算式の複雑さ、閾値判断の難しさ、監査記録の管理負荷などの課題があります。Fine-Tuning FLOPs Meterはこれらの課題を自動化で解決します。ツールはファインチューニングライフサイクルの3段階(プリトレーニング推定、実行時追跡、ポストトレーニング監査)をカバーし、設定ファイルにcompute_flops: trueを追加するだけで有効化できます。

技術的には、FLOPs計算はEU推奨のアーキテクチャ分析(6×P×D)または拡張式(LoRAなどのパラメータ効率的な手法に対応)を使用し、NVMLによるハードウェア上限も提供します。閾値ロジックは自動的に該当シナリオを判断し、超過をフラグ付けします。統合はHugging Face Trainerコールバックとして行われ、トレーニング終了後にJSON形式のコンプライアンス指標を出力し、S3またはDynamoDBに保存できます。ハンズオンではmeta-llama/Llama-3.2-3B-Instructを例に、MetaがプリトレーニングFLOPsを公開していないためデフォルト閾値が適用されます。オプションの推定ツールでトレーニング手法ごとのFLOPsを比較し、トレーニング後に監査レポートを確認できます。このツールにより、組織は効率的にLLMをコンプライアンス遵守してファインチューニングでき、計算リソース追跡の不備による最大1500万ユーロまたは全世界年間売上高の3%の罰金を回避できます。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • EU AI ActはLLMファインチューニングのFLOPs追跡を義務付け、規制義務を判断。
  • Fine-Tuning FLOPs MeterはFLOPs計算と閾値比較を自動化。
  • 閾値はプリトレーニング計算量に応じて異なる:デフォルト3.3×10²² FLOPsまたはプリトレーニングの30%。
  • 閾値を超えるとGPAIモデルプロバイダーとして再分類され、厳格なコンプライアンス義務が課される。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。