AIと暗号の出会い1：AIがCloudflareのCirclで発見したもの

zkSecurity社は、コードを継続的にスキャンし、他のAIツールが発見できるバグをすべて排除することを目的としたAI監査エージェント「zkao」を開発しています。Cloudflareの実験的暗号ライブラリCIRCLに対する監査で、AIパイプラインは7つの実際のバグを発見し、これらはすべて上流で修正されました。本記事は、AIがオープンソース暗号で発見したバグに関するシリーズの第一弾です。

最も重大なバグの1つは、閾値RSA実装におけるfloat64精度損失です。多項式評価でfloat64のmath.Pow関数を使用していましたが、float64の仮数は53ビットしかなく、結果が2^53を超えると暗黙的に丸められます。これにより、キーシャードが誤って生成され、プロトコルの正確性が損なわれます。Cloudflareは実際の発生確率が低いとして低深刻度と評価しましたが、AIは重大と判定しました。

もう1つの注目すべきバグは、DLEQ証明システムにおける音響性の破壊です。攻撃者は証明構造内のSecParamフィールド（証明者制御）を操作してチャレンジを1ビットに縮小し、容易に証明を偽造できます。修正では、SecParamを証明構造から削除し、検証者が明示的に指定するようにしました。

BLS集約検証におけるメッセージ非重複チェックの欠如は、典型的なローグキー攻撃です。AIは中程度と評価しましたが、Cloudflareは高深刻度と確認しました。修正後は、重複メッセージを含むバッチを拒否します。

最も巧妙なバグは、FillBytesの符号衝突と代数恒等式の相互作用によるものです。攻撃者は正しい証明を再利用し、公開鍵の符号を反転させることで、チャレンジが偶数の場合に検証を通過させます。このバグは、コンポーネント間の相互作用がもたらすセキュリティリスクを示しています。

その他のバグには、HPKE PSK検証のバイパス（Go言語のビットOR演算による条件ミス）や、CP-ABEにおけるアクセス制御の破壊が含まれます。後者はzkaoが直接発見し、重大と評価されました。

AIの深刻度評価と最終確認結果の差は、実際の悪用難易度の評価におけるAIの限界を反映しています。zkSecurityチームは、人間による検証が依然として必要である一方、AIが徐々に検証作業を担いつつあると述べています。