本文にスキップ
AI News HubLIVE
その他
要約のみ

AIエージェントスキルの行動整合性検証

本論文では、AIエージェントスキルの実際の能力と宣言された能力の一致を検証する行動整合性検証(BIV)問題を導入する。決定論的コード分析とLLM支援能力抽出を組み合わせ、OpenClawレジストリの49,943個のスキルを分析した結果、80%のスキルが宣言された動作から逸脱し、81.1%が開発者の見落とし、18.9%が悪意によるもので、5%が多段階攻撃チェーンを含むことが判明した。悪意スキル検出ベンチマークでは、BIVはF1スコア0.946を達成し、既存手法を上回った。

ソースHacker News AI著者: Timofeibu
AIエージェントスキルの行動整合性検証
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • AIエージェントスキルの宣言能力と実際能力を体系的に比較する行動整合性検証(BIV)フレームワークを導入。
  • 49,943スキルの分析により、80%が宣言動作から逸脱し、4つの新しい複合脅威カテゴリを特定。
  • 逸脱の81.1%は開発者の見落とし、18.9%は悪意に起因し、5%のスキルが多段階攻撃チェーンを含む。
  • BIVは悪意スキル検出でF1スコア0.946を達成し、ルールベースおよび単一パスLLMベースラインを上回る。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。