GitHub、バグ報奨金の一部を現金からノベルティに切り替えへ

バグ報奨金は何十年もの間、サイバーセキュリティの中心的な安全弁として機能し、独立した研究者が攻撃者に悪用される前に脆弱性を開示するための構造化された手段を提供してきました。しかし、AI支援によるレポートの急増がそのシステムの一部を変革しています。

GitHubは先週、セキュリティ研究におけるAIツールの利用増加に伴い提出件数が急増していることから、バグ報奨金プログラム全体の基準を強化すると発表しました。

ブログ記事で、GitHubのバグ報奨金プログラムのシニアプロダクトセキュリティエンジニアであるJarom Brown氏は、概念実証の検証、影響の実証、または悪用可能なセキュリティ境界が実際に越えられたという明確な証拠を欠く提出が増加していると述べています。「業界全体のプログラムが同じ課題に取り組んでおり、一部は完全に閉鎖されています」とBrown氏は書いています。

AIスラップロードの氾濫

GitHubは、研究者がAIを使用することに反対しているわけではなく、AIが現代のセキュリティ研究ワークフローにますます中心的な役割を果たすと予想していると強調しました。問題は、AI支援で生成された推測的または検証不十分なレポートの増加です。

「ツールは重要ではありません。重要なのは作業の質です」とBrown氏は続けます。

このニュースの1週間前、Anthropicは最初の公開HackerOneバグ報奨金プログラムを開始し、以前はより厳格に管理された安全性テストに依存していた外部研究者にセキュリティ報告パイプラインを開放しました。この開始自体は、AnthropicがClaude MythosとProject Glasswingを発表してからわずか数週間後のことでした。これらは、同社が現在の公開システムよりも効果的にソフトウェア脆弱性を特定し連鎖させることができると主張する、より高度なフロンティアモデルを中心としたアクセス制限付きのサイバーセキュリティイニシアチブです。

AnthropicはMythosを、より強力な攻撃的AIツールが普及する前に防御的サイバーセキュリティ能力を強化するためのより広範な取り組みの一部として位置付けました。しかし、同社が従来の人間主導のバグ報奨金プログラムに同時に拡大したことは、AIセキュリティ業界内部の緊張の高まりを浮き彫りにしました。企業が有能な自律型サイバーシステムを販売しているにもかかわらず、現実の脆弱性を特定、検証、再現するために人間の研究者に明らかに依存し続けているのです。

概念実証が必須に

更新された基準の下で、GitHubは研究者が現在、動作する概念実証のデモ、実証されたセキュリティ影響、スキャナーやAI生成結果の検証、およびGitHubが公開している不適格な脆弱性のリストへの準拠に関して、より厳しい要件に直面することになると述べています。

低リスクの強化機会や文書化のギャップを特定するレポートは、現金報酬の対象外となる可能性もあります。代わりに、GitHubは、修正につながる一部の低重要度の発見に対して、報奨金ではなく企業ノベルティを提供すると述べています。

同社はまた、研究者に対して提出内容をより短く検証しやすくするよう促し、過度に精巧なレポートはセキュリティチームが真に悪用可能な発見を特定するのを難しくしていると主張しています。そして、問題の一部は再びAIに起因しています。

「レポートが明確で直接的であればあるほど、迅速に対応できます」とBrown氏は書いています。「多ページにわたる理論的な説明、繰り返される背景情報、AI生成の埋め草など、冗長なレポートはトリアージを遅らせ、実際の発見が埋もれてしまいます。」

cURLの早期警告

GitHubのコメントは、オープンソースセキュリティコミュニティの一部で「AIスラップロ」バグレポートと呼ばれるものに対する不満が高まっている中で行われました。1月、オープンソースのデータ転送ツールcURLの創設者兼主任開発者であるDaniel Stenberg氏は、メンテナーが低品質のAI支援提出に圧倒されたため、プロジェクトがバグ報奨金プログラムを終了すると述べました。

「私たちは事実上DDoS攻撃を受けています」とStenberg氏は当時書いています。「できれば、私たちの時間を無駄にしたことに対して料金を請求したいところです。AIの助けを借りて行われた有効なセキュリティ報告はまだ一つも見ていません。」

Stenberg氏は後に、AI支援によるセキュリティ研究自体に反対しているわけではなく、研究者がAIツールを使用して正当なバグやコード問題を発見した例を挙げています。彼の批判は、バグ報奨金を得るために生成された検証不十分な提出に焦点を当てていました。

これはGitHubの立場と一致しています。同社は、研究者が提出前に適切に検証することを条件に、AI支援による発見を歓迎すると強調しています。

「人間の研究者は提出の正確性に責任を負います」とBrown氏は書いています。

GitHubが線引きする場所

GitHubの記事は、同社がプラットフォームのセキュリティ境界、特にAIツール、悪意のあるリポジトリ、プロンプトインジェクション攻撃に関する誤解について多くの注意を払いました。

同社は、有害なAI出力や悪意のあるリポジトリを含む多くの報告は、いわゆる「共有責任モデル」に該当すると主張しています。GitHubは、ユーザーが信頼または実行するリポジトリ、スクリプト、ワークフロー、AI生成出力を決定する責任を引き続き負うと述べています。

「攻撃が被害者に攻撃者制御のコンテンツを能動的に探させ関与させる必要がある場合、セキュリティ境界はユーザーがそのコンテンツを信頼するかどうかの決定です」とBrown氏は書いています。

GitHubは、一般的に報奨金対象の脆弱性と見なされないいくつかの例を挙げています。これには、AIシステムに意図的に供給されたコンテンツを含むプロンプトインジェクション攻撃、クローンされたリポジトリ内の悪意のあるGitフック、信頼できない入力を処理した後に危険な出力を生成するAIツールなどが含まれます。

共有責任の例

この区別は、AIコーディングエージェントがより自律的になり、ソフトウェア開発環境に深く統合されるにつれて、プロンプトインジェクション攻撃と悪意のあるAI生成コードが中心的な関心事になっているため重要です。

GitHubにとって、線引きは攻撃者が実際のGitHub管理のセキュリティ境界を迂回したのか、それとも単にユーザーに敵対的なコンテンツを信頼させたのかにあるようです。