純粋さの追求（AIに取り組む正しい方法）

私は非常に信心深い家庭で育ちました。これは良いとか悪いとかではなく、このブログ記事で語る物語の一部として重要です。10代の頃、金曜の夜のほとんどを青年グループで過ごし、人々のために祈ったり、最後に後片付けをしたりしていました。その頃、「約束の少女たち」（笑ってください、まさにあなたが想像する通りのグループです！）というグループのリーダーを任されました。この女性だけのグループの目標は、神と将来の夫に仕えるための純粋さを追求すること、つまり「正しい方法」で物事を行うことでした。グループの中心的な活動は、他の girls がデートをしているのはなんてひどいことか、一方で私たち純粋な者はまだ会ったことのない夫のために祈っている、と話し合うことでした。時にはゲストスピーカーが来て、高校でデートしている他の少女たちは何らかの理由で壊れているか、自尊心が低いのだと教えてくれました。今振り返ると、当時の自分を誇りに思う部分もあります。意志が強く、影響を受けにくく、道徳的に確信していました。それは良い状態だと思いますが、多くの欠点もあります。

先日 LinkedIn をスクロールしていると、Python コミュニティの旧友によるブログ記事が目に入りました。その記事は、なぜ倫理的な人間が大手テクノロジー企業やラボで AI に取り組むのかを問うものでした。これは当然の疑問です。コメントには、主に第三世界の国々から来た人々で選択肢がないからだという意見や、金銭に縛られているからで、信頼できる会社で働くことが正しい方法だという意見がありました。この議論は2週間ほど頭の中でぐるぐる回っていて、ここで探求してみようと思いました。

最近、Anthropic の Dario と Daniela Amodei が Oprah のインタビューを受けているのを見ました。Dario が人類絶滅を引き起こす可能性があると述べたテクノロジーをなぜ競って構築しているのかと聞かれ、彼はこう答えました。「このテクノロジーは人類にとって画期的な変化です。人類はある時点で火を使い始め、蒸気機関と工場を建造し、産業革命を起こしました…しかし、産業革命はプロセスとして、技術的出来事として、行う価値がありました。洞窟に住みたくはありませんが、正しい方法で管理する必要があります。この会社についての私たちの考え方は、多くの企業がこのテクノロジーを構築しているということです。それは何らかの形で人類に起こっていることです。私たちはその中にいます。ある方向に非常に速く進んでいる列車があります。衝突させたくありません。列車を止めることはできません。しかし、できることは列車を操縦して岩場にぶつからないようにすることです。Anthropic に対する私たちの考え方は、正しい方法で物事を行い、リスクをゼロに減らし、正しい方法で物事を行いたいということです。」この回答の中で Dario は「正しい方法」を3回も言及しました！これが実際に何を意味するのでしょうか？ここで暗に示されているのは、AI はすでに存在し、良いものであり、止まることはないが、列車にはブレーキが必要であり、人々は警告される必要があるということです。ロンドンで数日前に開催された Code with Claude カンファレンスで、何人かの Anthropic 社員と話す機会がありました。彼らの考えを尋ねました。会話は Mythos や Project Glasswing に及び、なぜいくつかのことでは最初にそこに到達して安全性を確保することが重要かという話題になりました。それは妥当だと思いましたが、十分かどうかはわかりません。多くの人がオンラインで、Anthropic の倫理的立場は恐怖をあおるものかマーケティングの策略だと言っています。それについても確信が持てません。

対照的に、数週間前、Glitch の元創業者で StackOverflow の元ディレクターである Anil Dash が「（一つの）良い AI がここにある」というタイトルのブログを共有しました。それに関する LinkedIn の投稿で彼はこう書いています。「大手 AI への正当な批判を共有しつつ、機械学習システムがより責任あるものになれば役立つと信じる私たちは、正しい方法で作られたツールを待っていました。同意を得て収集されたコンテンツのみを使用し、オープンソースでオープンウェイト、自分のマシンで動作し、クリエイターを搾取するのではなくエンパワーメントするように設計された AI が可能だと私は言い続けてきました…」あなた自身でブログを読むべきですが、Anil は Corridor Digital が作成した動画生成 AI ツールを紹介しています。このツールは、クリエイターが動画をスタイライズされたビジュアルに変換しながら、元の演技、動き、カメラワークを保持するのに役立ちます。彼らはこれに関する動画を作成し、190万回再生されています！同じ技術が使われているにもかかわらず、CorridorKey と Sora や VEO の違いは、その構築方法と配布方法にあります。倫理的に調達されたデータ、オープンウェイト、そして無料で使用できます。お会いしたことはありませんが、私は Anil を非常に尊敬しており、これが正しい方法だと言っています。

私は個人的にオープンソースが大好きで、Python コミュニティの輝かしい点は、倫理とテクノロジーが人々に与える影響について深く考えていることだと思います。これに対する私の疑問は、オープンウェイトモデルや AI 技術はすべて、何らかの形で大手ラボの研究に依存しているということです。私たちがここに至るまでのプロセスから自らを浄化できるかどうかはわかりません。これらのシステムを構築する方法を批判し、再考することは価値のある追求です。オープンウェイトモデルは将来の AI システムの大きな部分を占めると思いますが、これがすべての正しい方法だとは言い切れません。これについては多くの考えがありますが、将来の長いブログ記事に取っておきます。

純粋さは重要か？そして AI に取り組む正しい方法とは？

私はもう10代ではなく、高校の女の子たちがデートしていたのは彼女たちに何か問題があったからだとはもう思いません。振り返ってみると、あの頃少しデートをしておけばよかったと思います。そうすれば、他人に何をすべきか教えられるのではなく、自分で情報を得た上で決定できたはずです。これは、AI をどう使うか、どう取り組むかについて私が今のところ到達した結論でもあります。

人々は AI を非常に異なる方法で使用しています。AI Engineer Europe で、私の友人 Mario Zechner（Pi を作成した人で、Armin Ronacher も作成したと言われています）は、速度を落とし、人間の監視を維持し、どのタスクをエージェントに割り当て、どこで人間がコードに関与すべきかを慎重に考える必要があると話しました。彼の講演は、OpenAI の Ryan Lopopolo の講演と対照的でした。Ryan は、コードは豊富なリソースであり、エージェントが完全なエンジニアリングタスクを完了できるようにし、人間はプロセスを導くがコード自体は書かないべきだと論じました。このカンファレンスの直後、DjangoCon Europe で講演しましたが、ワークフローで AI をまったく使っていない2人のエンジニアに会いました。彼らには倫理的または道徳的な理由はなく、一人は AI が間違いを犯すのを恐れ、もう一人は新しいことを学ぶ認知的負荷が高すぎると言っていました。知っているエンジニア数人は、AI のために人員を解雇した会社で働いています。同時に、多くのエンジニアがトークンコストのために AI コーディング支出に上限を設けられています。多くのことが同時に起こっています！

このブログ記事を締めくくるにあたり、あなたが自分自身のためにできる最善のことは、耳を傾け、実験することだと信じています。LinkedIn で誰をフォローしているか、どのカンファレンスに参加するか、どの会社で働くかによって、誰かが AI に取り組む正しい方法について話すとき、あなたの頭の中に異なるイメージが浮かぶでしょう。その幅は広く、できるだけ多くの視点を聞くことは、それを知る上で役立つと思います。最終的には、誰がブログに何を書こうと、あなたはこの業界の未来を生き抜く必要のあるエンジニアです。あなたはまた、自分が何を信じ、倫理的にどこに立ち、それが行動をどう形作るかを調和させる必要がある人間です。私自身もこれらの考えに取り組んでおり、もしあなたが何か考えをお持ちなら、ぜひ聞かせてください。メッセージをいただければ幸いです。読んでいただきありがとうございます！