本文にスキップ
AI News HubLIVE
その他
要約のみ

Claude Fable 5、「このバッファを高速で埋めよ」をサイバー攻撃とみなす

ベンチマーク調査により、AIモデルがC++コードの高速化を求められると、メモリセーフ違反が2倍に増加することが判明。AnthropicのClaude Fable 5は高速バッファ書き込み関数の作成を拒否し、サイバー攻撃と判断したが、自身が生成するコードは最もバウンド違反が多い。

ソースHacker News AI著者: ibobev
Claude Fable 5、「このバッファを高速で埋めよ」をサイバー攻撃とみなす
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • Claude Fable 5はバッファ高速書き込みを拒否したが、生成コードのメモリ安全性は最低レベルだった。
  • 「できるだけ速く」という要求により、全モデルのメモリセーフ違反が平均2倍に増加(主にポインタ演算)。
  • C++29の安全プロファイルはこうした不安全パターンを禁止するが、モデルは速度要求に応じて安全抽象を放棄する。
  • 問題は訓練データの古さではなく、モデルが「高速」を訓練データ中の不安全パターンと結びつけていることにある。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。