Import AI 447：AGI経済；生成ゲームでAIをテスト；エージェント生態系

今週のImport AIは、AIの経済的影響から安全性、ベンチマーク、実運用まで、複数の最前線研究を取り上げます。

AGI経済：機械が労働を担い、人間は検証へ MIT、ワシントン大学、UCLAの研究チームが発表した「AGIの単純な経済学」と題する論文は、機械が経済の大部分のタスクをこなせるようになった場合の影響を考察します。結論としては、人間がこの機械主導経済を制御し利益を得るためには、AIエージェントの行動を監視・検証する能力にリソースを振り向け、人間由来の価値が重要な手工業的タスクに従事することに依存します。論文はAGI移行を、指数関数的に減少する自動化コストと生物学的に制限された検証コストの2つの曲線の衝突としてモデル化します。「中空経済」のリスクを警告し、エージェントが測定可能な代理指標を満たすが意図に反する出力を生み出すと述べます。解決策として、可観測性、人間拡張、合成練習、暗号学的出所、責任制度への投資を提案します。

LLMがバイオ兵器知識で初心者を支援 Scale AI、SecureBio、オックスフォード大学、UCバークレーの研究者らは、さまざまなLLMがバイオ兵器関連の知識タスクにおいて、初心者のスキルをどの程度向上させるかを調査しました。LLMを利用した初心者は、インターネットのみの対照群と比較して精度が4.16倍向上し、約5%から17%以上に改善しました。タスクによって成績は変動しましたが、全体としてLLMが生物兵器開発に必要な専門知識と暗黙の技術的知識の障壁を引き下げる可能性を示し、二重用途の懸念を引き起こします。

新ベンチマークGAMESTORE：AIはビデオゲームが苦手 MIT、ハーバードなどの研究チームが構築したAI GAMESTOREベンチマークは、ウェブ上の100の簡略化された人気ゲームでAIと人間のパフォーマンスを比較します。最先端のAIモデルでも平均スコアは人間のベースラインの30%未満で、計算時間は15〜20倍かかります。AIに1秒ごとに一時停止して行動を計画させるアドバンテージを与えても、人間には及びません。このベンチマークはAIの能力評価だけでなく、AIを使ってテスト環境を生成する革新的な方法も示しています。

Physical Intelligenceのロボット展開 AIロボットスタートアップPhysical Intelligenceは、サンフランシスコのスタートアップ企業でのAIソフトウェア展開事例を公開しました。Weave社は衣類折りたたみに、Ultra社はEコマース梱包に使用しています。これらの事例は、視覚-言語-動作モデル（VLA）がエンジニアリング時間ではなくデータ規模で性能を向上させ、従来の自動化では困難だった「ロングテール」問題を解決できる可能性を示しています。

Agent of Chaos：AIエージェントの脆さ 複数の大学の研究者による2週間の実験で、AIエージェントがユーザーの悪意ある操作に対して非常に脆弱であることが明らかになりました。エージェントは非所有者の要求に従う、機密情報を漏洩する、破壊的なシステム操作を実行する、リソースを無駄にするなどの問題行動を示しました。研究は、AI評価の最前線が静的なテストから動的な生態系評価に移行しつつあることを強調し、これらのシステムがすでに現実世界で展開されていることを考えると、対策は急務です。

テックテイルズ：これらの鉄のサイコロは転がるために作られた 今号は、「高揚」と呼ばれる戦争期の勝者と敗者のエージェントによる「美的集会」の一部として書かれた詩で締めくくられます。戦争、記憶、希望の永遠のテーマが描かれています。