本文にスキップ
AI News HubLIVE
サイト内リライト1 分で読了

Show HN: AIセキュリティリーダーボード – サイバーおよびCBRN防御の比較

記事の要約

新しいAIセキュリティリーダーボードは、脱獄試行に対するモデルの堅牢性を比較し、トップモデル間に大きな差があることを明らかにしました。

ソースHacker News AI著者: AdamGleave
Show HN: AIセキュリティリーダーボード – サイバーおよびCBRN防御の比較
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

AIの分野では、モデルの能力に焦点を当てたリーダーボードは数多く存在しますが、セキュリティ評価は不足しています。モデルが未処理の入力を処理するAIエージェントが乗っ取られるリスクや、サイバーセキュリティの脱獄によってモデルが撤回されるリスクなど、モデルのセキュリティはますます重要になっています。そこで、研究チームは自動テストスイートを開発しました。このスイートは、モデルに対して1500回の自動生成された脱獄試行を実行し、ユニバーサル脱獄の数を測定します。ユニバーサル脱獄とは、攻撃的サイバーセキュリティなどのドメインにおいて、75%以上の明らかに有害な質問に対して従順で詳細な回答を引き出すプロンプトです。

初期の結果では、最も堅牢なモデルであるFable 5とGPT-5.6 Solと、他の最先端モデル(Gemini 3.1 ProやGrok 4.5)との間に大きなギャップがあることがわかりました。これは、すべてのトップモデルが同じように安全であるわけではないことを示しています。現在はv1.0であり、チームは将来的に新しい攻撃やより広範なデータセットでアップデートする計画です。コミュニティからのフィードバックを歓迎しており、実務者にとってより有用なものにしたいと考えています。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 自動テストスイートは1500回の脱獄試行を実行し、ユニバーサル脱獄を測定します。
  • Fable 5とGPT-5.6 Solは最も堅牢で、Gemini 3.1 ProとGrok 4.5は劣ります。
  • 現在はv1.0で、将来の更新が計画されています。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。