AIについて誰もが同意することのもどかしさ

AIに関する会話は熱を帯びており、それはしばらく続いている。誰もが異なる見解を持っている。

私にとって苛立たしいのは、皆さんに共感できるだけでなく、ある意味で主要な立場すべてを自分の頭の中に抱えていることだ。

私は自分自身を不可能で、めちゃくちゃだと思う。ニルナリ、リトゥィクスト、断片化している。

加速主義者に同意する。私はかつて、トップ中国モデルを毎秒1000トークンで扱うオープンソースのエージェント型プログラミングツールを短期間使った。それはまるで薬を静脈に直接注入するようだった。27年前に人工生命に取り組んでいた—当時サイバーライフで同じことをしようとしていたが、ずっと早すぎた。創造は美しく、役立ち、温かく、目的のあるものであり得る。治すべき病気、最適化すべき気候モデル、各人に完璧なソフトウェアがある。

芸術家に同意する。私たちの作品はすべて盗まれ、世界の文化遺産の凡庸な混ぜ物にリミックスされた。私はほぼ誰よりもここで過激だ—モデルの重みは訓練されたすべてのコンテンツの派生作品だと思う。勝つのは力であり、ルールではない。なぜなら力が勝つからだ。AI生成アートを執拗に否定しなければ、芸術に人間の感情を保つことはできない。すべてのニュアンスに編集とキュレーションが必要だ。私は芸術における人間の感情を大切にしている。

ナショナリストに同意する。私はかつて、強力な新モデルがアメリカ国民のみに利用可能になったと米国政権が突然宣言するのを見た。それは私の胃をひっくり返した。欧州委員会がAIにおける「技術的主権」が必要だと応じたとき、共感が高まった。それは競争だ。

破滅論者に同意する。私はPauseAIを見て思う…そうだ、この技術は害を引き起こす可能性がある。存在論的な害を—現在のアーキテクチャをスケールさせる場合でなくても、今後10年または次の世紀に別の技術によって。規制が必要であり、国際条約に署名する必要がある。それは核兵器だが、政府の支配だけでなくビジネス価値によって加速される。

開放主義の変人たちに同意する。私は1997年からオープンソースソフトウェアが大好きだ。だから、オープンモデルが競争の場を平らにするとの議論を見ると、私はソフトウェアでそれが展開されるのをすでに見てきた。問題はあるが、同意する。モデルがより良く機能するにつれて、私たちが限られたプロバイダーに閉じ込められ、力が少数に蓄積されることがますます悪化している。

（データセンターの水や電力消費に反対する人々には本当に同意しない—適切なインフラで解決可能だと思われるからだ。そして他の問題がこれらの近接問題を支配している。私が環境主義者であるにもかかわらず。データセンターに反対するより強力な理由がある。）

…息を吸って…

そう、すべてが矛盾している。断片化している。オープンモデルは破滅にとって最悪であり、AI主権は一時停止の反対であり、芸術家の作品を保護することは加速を妨げる。何も機能しない。

なぜ私はこの矛盾の破片なのか？

すべての議論は正しいが、どれが最も正しいかは何が起こるかにかかっている。

もし私たちがSカーブの頂点にいて、AI能力がコスト2倍でさらに10%の改善数回で停滞するなら…その場合、展開して、みんなに開放し、日常的なリスクを規制し、すべての問題を取り除き、すべての利益を得よう。資本主義を止めることはできないが、正しく行うことはできる。

もしAIがはるかに能力が高くなるが、何らかの理由で独自の「権力への意志」を持たないなら、私はその使用を自分の利益のためにコントロールする大帝国の中にいたい。防衛への影響は頭がおかしくなるほどで、考えられない。軍事的加速は耐え難い。しかし、代わりにオプトアウトしたらどうなる？それは悪い。

もしAIがより強力になるだけでなく、私たちが制御を失い、これらの異質な精神が大規模に行動し、私たちが集団的および個別に制御を失う形で作用するなら。それは広がり、惰性のがんのように文明を食べ尽くすか、意図的なクトゥルフの怪物が不注意かつ意図的にすべてを粉々にするか。

そして誰も何が起こるか知らない。

私は少し疲れている。このトピックのすべての投稿に同時に同意し反対している。

凍りついている。

多分、議員にメールして、AI開発者に重大な害の責任を負わせるよう求めるのが良いだろう。それは良い次のステップのように思える。