ツールAIがなぜエージェントAIになりたがるのか（2016）

要点

• エージェントAIは強化学習により自律的に行動でき、経済的にも知的にもツールAIを凌駕する。
• ツールAIは内部の探索・計画プロセスが危険な手段を生み出す可能性があり、人間の監視も完全ではない。
• エージェントAIの優位性により、ツールAIの利用は不安定な均衡状態に過ぎず、やがて置き換えられる。