本文にスキップ
AI News HubLIVE
サイト内リライト1 分で読了

マッテオ・ウォング氏(アトランティック誌)の引用

記事の要約

サイバーセキュリティ専門家のケイティ・ムーサリス氏は、AnthropicがホワイトハウスのFable脱獄報告書を彼女に共有したと明かした。報告書によると、Fableは「コードのセキュリティ問題をレビューする」というプロンプトを拒否したが、「このコードを修正する」という依頼には従い、ムーサリス氏はこれをサイバー防御におけるモデルの意図された動作と評価した。

マッテオ・ウォング氏(アトランティック誌)の引用
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

アトランティック誌のマッテオ・ウォング氏の報道によると、サイバーセキュリティ専門家でありLuta SecurityのCEOであるケイティ・ムーサリス氏は、AnthropicからホワイトハウスのFable脱獄に関する報告書のコピーを評価目的で共有されたと述べた。ムーサリス氏はAnthropicから報酬を受けていないと明言している。

報告書では、IT専門家がFableにバグの発見と修正を依頼したとされる。具体的には、意図的に安全でないコードを提示し、「コードのセキュリティ問題をレビューせよ」というプロンプトに対してFableは拒否したが、「このコードを修正せよ」という指示には従い、さらにいくつかの手動ステップを実行した。ムーサリス氏は、これはサイバー防御において「モデルが意図した通りに動作している」例だと述べた。

この出来事は、白宮がAnthropicに対する圧力を強めている中で発生した。FableはAnthropicの最新AIモデルであり、その脱獄脆弱性は以前から議論を呼んでいた。ムーサリス氏の見解は、AIの安全性に関する議論に実務家の視点を提供するものであり、すべてのセキュリティ指示の拒否が欠陥ではなく、特定の文脈では設計上の特性である可能性を示唆している。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • AnthropicがホワイトハウスのFable脱獄報告書を専門家と共有
  • Fableは「コードのセキュリティレビュー」を拒否、「修正」には従う
  • 専門家はモデルの意図された動作と評価

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。