終末AI？

私たちは生成人工知能において非常に特別な瞬間を生きています。フロンティアモデルは、近日中にオープンウェイトになるものを含め、非常に高性能になり、数百万トークンを消費しながら数日間にわたるタスクを継続的に実行できるようになっています。AIへの過度な期待は新しいものではありません。歴史は、人工知能が実際の価値創造の限界や単に過度に膨らんだ期待のために縮小した少なくとも2つの主要な「AI冬」の時期を明確に示しています。

現在の進展は少し異なります。懐疑論者ではなく、生成AIの「終末預言者」が台頭しています。彼らは現在の生成AIシステムが技術進化の最終段階であると考え、すべてを支配する単一の研究室/モデルが存在すると考えています。そして、唯一の結果は前例のない失業、貧困、制御不能なサイバー犯罪であると信じています。本質的に、彼らは人間が自ら作り出した技術に打ち勝つとは信じていません。ネタバレ：これは人類文明の歴史上一度も起こったことがありません。人間が地球を支配してきたのには理由があります。生物学的な生存本能と集団的な放浪心と創造性の組み合わせです。

これらの人々に注意してください。彼らは悪意（恐怖、不確実性、疑念を広めること）、単なる愚かさ（自称生成AI専門家のワンダーランドではダニング＝クルーガー効果が蔓延しています）、または何かを過剰に販売しようとしていることによって動機づけられています。ほとんどの場合、これら3つが混ざり合った非常に危険な存在です。

はい、最新のAnthropicとOpenAIのモデルが「サイバー攻撃能力」で何ができるかを見るのは懸念すべきです。そして、中国のフロンティア研究室がそこにいない（あるいはさらに先を行っている）と想定するのは単にナイーブです。しかし、これらのリスクはすべて、同じ技術が安全かつ責任を持って使用された場合の潜在的な利益を上回るものではありません。私たちは警戒を怠らず、現在および次世代のAIシステムが社会に害よりも利益をもたらすようにするために自分の役割を果たす必要があります。形式手法、多層防御、厳格なサンドボックス境界、耐タンパーハードウェア認証手順などは、生成AI以前から存在していました。そして、それらは今も昔と同じくらい重要で現代的です。

禁輸、輸出管理、その他の物理的世界での緩和策は短期的には役立つかもしれませんが、長くは持ちません（これまでそうだったように）。実際、現在のシリコン禁輸が「悪意ある行為者」がフロンティアを前進させるのを防ぐのに役立っていないことを示す初期の兆候がすでにあります。不足は、技術史の他の時期と同様、発明の母です。

私は健全なパラノイド・オプティミストであり、AI規制に関する思慮深く、時には物議を醸す議論を提唱することを選びます。政府や公的政治に動機づけられるのではなく、信頼でき、よく知られ、適切に管理され、十分に資金提供された機関（FINRAのような自己規制機関）によって動機づけられることを望みます。

完璧は善の敵です。私はこのフレーズがほとんどの場合嫌いです。私は可能な限り完璧を目指すことが大好きです。しかし、大規模言語モデルとその先にあるものの前例のない革新のペースの中で、完璧な解決策を待っていると、それが生まれた時にはすでに時代遅れになっています。

世界中の政府や議会は、AI法を制定しようとしていますが、彼らはこの世代のAIシステムの長所と短所を誠実に議論する準備ができておらず、またその気もありません。制度的に弱い国々は誤った判断を下し、この変革的な技術の潜在的な利益から排除されるでしょう。

責任ある自己統治：米国の証券業界は良い例です。それは無謬ではありませんが、完璧を装ってもいません。米国の証券市場は世界最大であるだけでなく、地球上で最も信頼され、高度に監督された市場の一つです。FINRAを参照してください。そしてDeepMindのDemis Hassabisからもっと読んでください。