Import AI 459: AI監視は困難；タンパク質フォールディングモデルのスケーリング則；AIシステムの絶滅リスクの価格設定

Import AIへようこそ。AI研究に関するニュースレターです。Import AIはarXiv、カプチーノ、読者からのフィードバックで運営されています。ご支援いただける場合は、購読をお願いします。

米国AI経済、年に2000%成長： バージニア大学、Anthropic、カナダ銀行の経済学者らは、米国の新興「AI経済」の驚異的な成長を概説し、この成長がGDP統計に現れにくい理由を分析しています。彼らによると、2025年の名目AI GDPは約2500億ドルで、品質調整後の実質成長率は年率約2600%です。この成長が見えにくい理由の一つは、AI推論（システムの使用）の貢献が価格下落で相殺されることです。正確に測定できなければ、政策立案者は労働市場への影響を過小評価する恐れがあります。

AIによる安全監視の難しさ： 英国AI安全研究所の研究は、AIシステムによる他のAIシステムの監視が簡単ではないことを示しています。最適化圧力、非人間的な誤り、相関研究、評価不可能な議論などの要因により、誤りを見つけるのが難しくなります。彼らは測定、一般化、拡張可能な監視プロトコルの改善を提案しています。

GPICデータセット： スタンフォード大学などの研究機関がGPICデータセットを公開。1億枚の画像にキャプションが付いており、すべて研究および商用利用が可能です。安全性フィルターと重複排除が施され、Hugging Faceでホストされています。

タンパク質予測モデル： BiohubがESMFold2をリリース。これはAlphaFold3を上回るタンパク質構造予測モデルで、約28億の配列でトレーニングされています。ESM Atlasも提供され、68億のタンパク質配列と11億の予測構造をカバー。がん研究のターゲットに対するタンパク質バインダーの設計に使用されています。

重要性： これらの進展は、AI技術が従来の統計を超えて経済を変革しつつあること、監視の課題がある一方で科学研究に莫大な可能性をもたらすことを示しています。