AIを活用した組み込みターゲットの脆弱性研究

最近、bl4sty氏がvibe coded sl0p.fooを作成しました。これは、tmuxセッションで動作するエージェントのライブストリームを可能にするプラットフォームです。このアイデアに触発され、ある研究者はAI支援による脆弱性研究とエクスプロイト開発の実験を開始しました。特に、組み込みリアルタイムオペレーティングシステム（RTOS）に焦点を当てました。

これまでの多くの研究はブラウザやオペレーティングシステムに集中していましたが、これらはソースコードや安定したツール（言語サーバー、ASAN/UBSAN、タイムトラベルデバッグなど）が利用可能です。しかし、RTOSは現代的なエクスプロイト緩和技術が欠如している一方で、AIエージェントがファームウェアをナビゲートしたり、実行中のデバイスをデバッグしたりするためのツールが限られているという難しさがあります。

このセッションでは、研究者はOpenAIのCodexプログラミングハーネスを使用し、gpt-5.6-solモデル（後にgpt-5.5にダウングレード）をxhigh思考モードで設定しました。Codexは--dangerously-bypass-approvals-and-sandboxモードで起動され、独立して動作できるようにしました。Trail of Bitsのスキルマーケットからは、監査コンテキスト構築、C/C++セキュリティコードレビュー、誤検知検証、最新のPythonツールなどのスキルが提供されました。また、ghidra-rpcスキルによりコマンドラインからGhidraを呼び出せ、カスタムのecos-offensive-researchスキルセットは、eCosとBroadcomケーブルモデムに関する過去の研究に基づいています。

実験環境はNixOS仮想マシンで、2つのネットワークインターフェースと1つのシリアルコンソールポートを備えています。エージェントはシリアルコンソール（/dev/ttyUSB0）を介してモデムにアクセスし、LANインターフェース（enp0s12u1、IP 192.168.0.1）を介して通信します。さらに、以前のセッションで設計されたRAM常駐GDBスタブを使用して、ケーブルモデム上でライブデバッグが可能です。このGDBスタブは研究者が2021年以来欲しかったものですが、エージェントが4時間で完成させました。

実験は2つの役割に分かれました。まず、リバースエンジニアはNetgear CG3700Bファームウェア（MIPSビッグエンディアン、ロードアドレス0x80004000）を完全にリバースエンジニアリングする任務を与えられました。ghidra-rpcを使用してバイナリを分析し、BSIMデータベースで標準eCos関数を特定しました。進行状況はCOVERAGE.mdに記録されました。次に、脆弱性ハンターはリバースエンジニアリング済みのファームウェアからスタートし、情報漏洩、メモリ破壊、認証バイパス、権限バイパスの脆弱性を探し、可能であれば連鎖させてより大きな影響を達成するよう指示されました。確認された脆弱性ごとに、./pocsディレクトリにREADME、再現テストケース、完全なエクスプロイトを含める必要がありました。

全体を通して、AIエージェントはリバースエンジニアリングにおいて非常に優れた性能を発揮し、Ghidraが見逃した関数境界の特定や仮想関数テーブルの回復を自動的に行いました。脆弱性研究もほとんど誘導を必要としませんでしたが、人間の介入はエクスプロイト開発中に最も必要とされ、研究者とエージェントは協力してエクスプロイトを構築しました。

結論として、AI支援による組み込み脆弱性研究は、適切なツールとスキルがあれば非常に有望であり、特にリバースエンジニアリングと脆弱性発見において効果的ですが、複雑なエクスプロイト開発には人間の密接な関与が依然として必要であることが示されました。