本文にスキップ
AI News HubLIVE
サイト内リライト4 分で読了

サイバー攻撃の新時代に向けた制御の改善

記事の要約

Baseten は、自律型 AI エージェントによる攻撃の時代に対応するため、多層防御、秒単位の検知・対応、エージェント型レッドチーミング、および顧客向けの ID・鍵・ネットワーク・データ保護策を強化していると説明しています。

ソースBaseten Blog
サイバー攻撃の新時代に向けた制御の改善
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

過去6か月の間に、セキュリティの世界は根本的に変化しました。モデルは脆弱性の発見に非常に優れるようになり、エージェントの構築は比較的簡単になり、エージェント群は今や一般的な攻撃パターンです。かつて重大な脆弱性は広く使われるソフトウェアライブラリの奥深くに何年も潜伏していましたが、今ではエージェント群があらゆる入口を試し、ゼロデイ脆弱性を悪用し、数分以内にデータを窃取します。Baseten は、このような脅威環境の進化に合わせて防御策も進化させていると述べています。

攻撃者の手法の変化は顕著です。AI 支援により、脅威アクターは驚くべき速度で複雑な攻撃を展開できるようになり、あらゆる業界で起きています。Google が最近発表した第4四半期 AI 脅威トラッカーの主な結論は、脅威アクターが AI 支援型攻撃から完全自律型の AI 主導攻撃へ移行しているというものです。マルチエージェントフレームワーク、自動化された脆弱性悪用、LLMJacking などの新たな収益化手法が状況を一変させ、この分野は転換点に達しています。同時に、顧客やパートナーは製品アップデートのペースを上げており、より多くのコードがこれまで以上に速く出荷されることでレビュープロセスが逼迫し、ほぼすべての組織で攻撃面が増大しています。この組み合わせが多くのテクノロジー関連業界でインシデントを頻発させ、エンジニアリングとセキュリティのチームを夜も週末も悩ませています。

1年前なら十分だったセキュリティ基準は今日の水準を満たしません。かつて国家レベルの敵対者を必要としたことが、今では有能なモデルとオーケストレーションツールだけで済むからです。実際には次のことを意味します。サプライチェーンのリスクが高まっており、攻撃者は上流ベンダー、ソフトウェア依存関係、長期間有効な認証情報を標的にして入口を開きます。データ窃取は数分で完了し、侵入した洗練された攻撃者はエージェント群を目標ネットワーク内で横展開させて迅速にデータを窃取します。LLM 推論が主要な標的となり、攻撃はモデルの重みと GPU 容量に向けられ、エージェント群がそこで複製・拡散します。すべてのコンピュートが同じレベルの堅牢化を備えているわけではなく、新しい GPU クラウドは急速に成長したため制御が成熟する時間が十分ではありません。その上に構築する人にとってはボトムアップのリスクとなり得ます。

エージェント速度の攻撃に対抗するには、防御もエージェント速度で実装する必要があります。Baseten は AI 支援防御がソフトウェアスタックとサプライチェーン全体の監視、検知・対応、修復の力を倍増させると考えています。他の制御に加え、具体的には次の通りです。多層防御では、単一の制御が急速に失敗する可能性を前提とし、基盤インフラも含めて制御を層状に配置し、一箇所の侵害が他に及ぼす影響を最小化します。堅牢化されたコンテナと構成を運用し、リクエストパスを相互認証し、顧客ワークロードを分離してコンテキストを低減します。秒単位の検知と対応では、エージェントがネットワーク全体の活動を分析し、静的ルールより迅速かつ正確に悪意ある行為を検知し、アラートが自動エスカレーションを起動してエージェント型攻撃を阻止します。自己攻撃では、サードパーティのペネトレーションテストに加え、OpenAI の Daybreak Red などのプログラムで自社コードに対してエージェント型レッドチーミングを実施し、脆弱性を早期に発見して修正します。

顧客が知りたいのは、Baseten 上で機密データとワークロードをどう守るかというシンプルな問いです。Baseten は次の制御を提供します。ID システムは顧客の管理下に置かれ、従業員は顧客の IdP を通じてプロビジョニングおよびサインインし、グループにマップされた細かいロールが割り当てられます。長期間有効なシークレットは不要で、ワークロードは短期トークンで顧客のクラウドにアクセスできるため、保存された鍵を盗まれる心配がありません。Baseten API キーはスコープが限定され、有効期限があり、いつでも取り消せます。顧客は重みの鍵を保持でき、提供される重みは顧客自身のクラウド KMS の鍵で暗号化できます。顧客はいつでも Baseten の鍵へのアクセスを取り消して復号を無効にできます。ネットワーク境界を設定でき、イングレスとエグレス許可リストを調整して顧客のインフラだけがデプロイに到達できるようにします。さらにシングルテナントデプロイはプライベート接続でアクセスできます。データは顧客が指定した場所に留まり、推論は承認されたリージョンでのみ実行され、推論データはゼロ保持です。活動は検証可能で、監査ログは顧客自身の検知ツールにエクスポートできます。

Baseten はこれが継続的な取り組みであると強調しています。状況は常に進化しており、仕事が終わることはありません。同社は学びを共有し、新たな防御メカニズムとエージェント速度の攻撃パターンという新たな現実についての議論に貢献したいと考えています。今後数週間で、Baseten のエンジニアリング、インフラストラクチャ、セキュリティ組織から、クラスタの保護方法、エージェント速度のセキュリティとは何か、API キーの衛生管理、コンテナとネットワークのセキュリティ、ID とアクセス管理、可観測性、検知と対応など、セキュリティプログラムの内部動作についてさらに発信される予定です。同社はこれが業界の友人、顧客、パートナーのセキュリティ態勢強化に役立つことを願っており、これらのトピックについてエンジニアとより深く議論したい場合は連絡を歓迎しています。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • 脅威アクターは AI 支援型から完全自律型の AI 主導攻撃へ移行しており、エージェント群がゼロデイ脆弱性を悪用し数分でデータを窃取します。
  • Baseten は多層防御、秒単位の検知・対応、エージェント型レッドチーミングなどの AI 支援防御で攻撃速度に対抗します。
  • 顧客は IdP による ID 管理の維持、短期トークンの利用、自社の鍵による重みの暗号化、ネットワーク境界の設定、ゼロデータ保持が可能です。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。