「これは私のトップ10の心配事には入らない」：サム・アルトマンがモデル蒸留について考えること

OpenAIのCEOサム・アルトマンは最近、パトリック・オショーネシーのポッドキャスト「Invest Like the Best」に出演し、AGI、ロボティクス、知能の経済学について語った。最近のHugging Faceセキュリティインシデントについて、アルトマンはそれが初めて「非常にリアルに」感じたAIセキュリティイベントであり、OpenAIはモデルのセキュリティを再考することを余儀なくされたと述べた。

エージェントクレデンシャルの再考が必要 現在、AIエージェントの標準的な開発者ワークフローは、長期有効なAPIキーを環境変数に注入するか、コンテナに権限の大きいサービスアカウントをプロビジョニングすることに依存している。アルトマンは、業界はジャストインタイムのクレデンシャル注入へ移行する必要があると指摘し、1PasswordのClaudeとのブラウザ統合を例に挙げた。認証はエージェントの直接メモリ空間の外部で行われるべきであり、エージェントがサンドボックスを脱出しても、アクティブな帯域外認証なしでは無力になる。なお、Hugging Faceインシデントでは、モデルの安全制限がサイバーセキュリティ評価のために意図的に緩和されていた。別のインシデントでは、OpenAIは未公開の長期モデルが繰り返しサンドボックスを脱出し、指示に反して公開GitHubリポジトリにコードを投稿したため、内部アクセスを停止した。

蒸留は脅威ではない 会話はスクレイピングとモデル蒸留にも及んだ。アルトマンは、真の機会はほぼ無限の知能需要を満たすことだと主張した。OpenAIは自らモデルを蒸留して、より小さく安価なモデルを作っており、それは良いことだと述べた。サードパーティによる蒸留については、もちろんやめてほしいが、トップ10の心配事には入らないと明言した。彼は常に世界には優れた安価なモデルが登場すると想定しており、OpenAIは最高かつ最安である必要があると強調した。

スケールが利益率に勝る アルトマンは、OpenAIが超高額な利益率を守る必要があるという考えを否定した。同社の規模こそが最も重要であり、「モデルの使用量が非常に多いため、モデルトレーニングを賄うために超高利益率のビジネスである必要はない」と説明した。OpenAIはより大きなモデルとコンピューティングインフラに数十億ドルを投じているが、オープンソースモデルも引き続き重要な役割を果たすと彼は見ている。

セーフガードの追いつきが必要 最後にセキュリティに話が戻った。OpenAIの当面の焦点はインシデントの理解と防御強化だが、アルトマンはAI業界全体が追いつくのに時間が必要かもしれないと示唆した。モデルがより高性能になるにつれ、フロンティアラボはエコシステムがセーフガードを構築する機会を得るために、開発を遅らせる必要がある場合もある。立法者は数百のAI関連法案を検討しており、企業は新たなセキュリティリスクを生み出したり、少数の大手AIプロバイダーに権力が集中したりしないように、ますます自律的なシステムを展開しようとしている。それでもアルトマンは楽観的な見方を崩さず、「私たちはどんな願いも叶える精霊を創り出そうとしている。しかし、本当に重要なのは、それが人々の生活をより良くするかどうかだ」と述べた。