本文にスキップ
AI News HubLIVE
その他
要約のみ

タイミングトリックでLLMトレーニングのエネルギーを最大14%削減

オランダのトゥウェンテ大学の研究者たちは、GPUカーネルごとにクロック周波数を調整することで、速度をほとんど犠牲にせずに大規模言語モデルのトレーニングエネルギーを最大14%削減できることを示しました。

ソースIEEE Spectrum AI著者: Dina Genkina
タイミングトリックでLLMトレーニングのエネルギーを最大14%削減
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 研究者はGPUカーネルごとに動的電圧周波数スケーリング(DVFS)を適用しました。
  • 訓練時間をわずか0.6%増加させながら、14%のエネルギー節約を達成しました。
  • この手法は最良のシナリオであり、実際の節約はGPUの切り替え速度に依存します。
  • チームは最適な周波数スケーリングを自動化するツールを開発中です。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。