AI News HubLIVE
サイト内リライト2 分で読了

ニューロ・エージェンティック制御:セキュリティ制御のためのDeep LearningベースのLLM搭載エージェンティックAIフレームワーク

本論文では、LLMプランナーと時系列基礎モデル(TimesFM)を組み合わせ、反事実物理注入機構により物理的基盤を持つ自律防御を実現するニューロ・エージェンティック制御フレームワークを提案。SWaTデータセットでLSTMやTCNを上回り、幻覚動作はゼロ。

ソースarXiv AI著者: Saroj Gopali, Bipin Chhetri, Deepika Giri, Sima Siami-Namini, Akbar Siami Namin

産業用IoT環境における運用技術(OT)へのサイバー攻撃は、高額なダウンタイムや物理的損害を引き起こしており、従来のルールベースの監視では限界があります。大規模言語モデル(LLM)は強力な意味的推論能力を持ち意思決定支援に役立つ一方、幻覚特性は閉ループ制御において許容できない安全性の負債をもたらします。この課題に対処するため、本論文はニューロ・エージェンティック制御フレームワーク(Neuro-Agentic Control Framework)を提案します。この新しいアーキテクチャは、LLMベースのプランナー(例:Gemini 2.5 Flash-Lite)と事前学習済みの時系列基礎モデル(TimesFM)を結合し、物理的根拠に基づく自律防御を実現します。

フレームワークの核心は「反事実物理注入(Counterfactual Physics Injection)」メカニズムです。これは、基礎モデルの数値潜在空間内でLLMが提案する介入の影響をシミュレートし、実際の動作実行前に幻覚的または不安全な動作をシステムが拒否できるようにします。産業用データセット(例:Secure Water Treatment (SWaT))を用いた確率的攻撃シナリオでの評価において、本フレームワークはLSTMやTCNベースラインと比較して優れた性能を示しました。ニューロ・エージェンティックループは、しきい値以下の違反を5件(33.3%)防止し(LSTM: 26.7%、TCN: 13.3%)、物理的に無効な(幻覚)動作はゼロでした。これらの結果は、基礎モデルを決定的な「守護者(Sentinels)」として使用することで、重要インフラにおけるエージェンティックAIを保護する有効性を示しています。

さらに、本フレームワークは高度にモジュール化されており、LLMプランナーが高レベルの意思決定を担当し、TimesFMが正確な物理シミュレーションを提供します。このアーキテクチャは水処理システムだけでなく、電力網や石油化学プラントなどの重要インフラ分野にも拡張可能です。将来の研究では、より多くの実環境での頑健性検証や、リアルタイム制御に適した計算効率の最適化が期待されます。ニューロ・エージェンティック制御フレームワークは、産業制御におけるAIの安全な展開に新たなパラダイムを提供します。