Import AI 456：RSIと経済成長；AI規制におけるラディカル・オプショナリティ；そしてニューラルコンピュータ

Import AIへようこそ。本号では、AI規制の「ラディカル・オプショナリティ」、ニューラルコンピュータ、そして再帰的自己改善（RSI）が経済成長に与える影響の3つを扱います。

ラディカル・オプショナリティ：規制の第三の道 法律とAI研究所の研究者は「ラディカル・オプショナリティ」を提唱します。これは、政府が将来のAI危機に備え、今すぐツールと政策に投資するアプローチです。過剰規制を避けつつ、柔軟に対応できるよう機関、情報チャネル、法的権限を迅速に構築することを目指します。具体的な提案には、透明性と報告義務の導入、内部告発者の保護、政府間の情報共有、柔軟なルールの策定、評価能力の開発、モデル重みのセキュリティ向上、技術人材への投資が含まれます。著者らは、これらの政策のコストは潜在的便益に比べて小さく、行動しないことのコストは壊滅的になり得ると述べています。

反論と応答：著者らは、これらのアイデアに対する明白な反論を検討し、回答を提供しています。例えば、規制の濫用リスクについては、提案は「濫用されやすい重い実体的権限ではない」と主張しますが、本記事の著者は、十分に動機づけられた政府は元の意図を超えた強力な権限を創り出す可能性があると指摘します。民主的正統性については、柔軟性を優先すると民主的プロセスが弱まる可能性があります。権力集中リスクについては、政府がAI開発を掌握するリスクがあるため、国防生産法のような非常時権限の拡大は推奨しません。民間ガバナンスだけでは不十分であり、政府内の技術的能力に依存せざるを得ないと結論づけています。

ニューラルコンピュータ：新しい機械形態 MetaとKAISTの研究者（著名なAI研究者ユルゲン・シュミットフーバーを含む）は、「ニューラルコンピュータ」の概念を提案しています。これは、計算、メモリ、I/Oを学習された実行時状態に統合する神経システムです。初期実験では、強力な生成ビデオモデルWan 2.1を使用して、コマンドラインインターフェース（CLI）とグラフィカルユーザーインターフェース（GUI）に基づくニューラルコンピュータのプロトタイプを作成しました。CLIでは、基本的なコマンドラインワークフローのレンダリングと実行を学習し、ターミナルバッファとの整合性を保ちますが、記号的安定性は限られています。GUIでは、データ品質、カーソル監視などの評価を行っています。長期的目標は完全ニューラルコンピュータ（CNC）であり、コンピュート、メモリ、インターフェースが単一の学習された実行時基板に統合されます。このようなシステムは、従来のソフトウェアを巨大なニューラルネットワークで置き換え、計算の在り方を根本的に変え、私たちがシミュレーション内に生きている可能性を高めます。成熟したニューラルコンピュータは、10Tから1000Tパラメータの疎でアドレス可能な回路状のマシンになると推測されています。

再帰的自己改善と爆発的経済成長 Forethought、コロンビア大学、バージニア大学の経済学者は、AI主導の自動化が技術的フィードバックループと経済的フィードバックループを通じて爆発的成長を引き起こすモデルを開発しました。主要な発見：全セクターの13%の自動化で経済が爆発的領域に入り、ソフトウェアとハードウェア研究のみの自動化では17%で十分です。ハードウェア研究が支配的なレバーであり、そのリターンはソフトウェアの約5倍、総要素生産性の10倍です。20%のハードウェア自動化だけで閾値を超えます。ソフトウェア自動化のみではナイフエッジに位置し、わずかな押しでシステムが転換します。ベースラインシミュレーションでは、ソフトウェア研究の完全自動化と経済のわずか5%の自動化で、特異点が約6年以内に到来します。政策立案者は、AI研究開発における自動化レベルを監視すべきであり、半導体研究開発の戦略的重要性が強調されています。