生成AIが「ハーバライフの瞬間」を迎えている

ここ数週間、著者はTikTokでReplitの広告を頻繁に目にするようになった。Replitは近年登場した「バイブコーディング」スタートアップの一つで、実質的にはAnthropic、OpenAI、Googleのモデルをラップしたものである。これらの広告は、インフルエンサーによるブランド契約で作られていることが多く、典型的なフォーマットは、美しい人物がアイデアを思いつき、Replitでそれをプロンプトとして入力し、アプリを生成するというものだ。メッセージはシンプルだ。「あなたにもソフトウェアが作れる。それが生活を良くし、副収入をもたらし、ひょっとすると金持ちにしてくれるかもしれない」と。

このような主張は以前にも聞いたことがある。歴史は繰り返す。1920年代、世界はマルチレベルマーケティング（MLM）という有害な概念を目の当たりにした。企業が製品を用意し、一般の人々を販売員として雇う。本当に稼ぐには、製品を売るのではなく、他の販売員を勧誘することだ。新たな勧誘者（ダウンライン）ごとにボーナスが入り、彼らの売上の一部も入る。そして、そのダウンラインもまた自分自身のダウンラインを必要とする。この構造は持続不可能で、最終的には人が尽きる。いわゆるピラミッド・スキームだ。

次の世紀にかけて、MLM業界はグローバル化し、怪しい健康飲料や抜け毛を引き起こすシャンプーなどを販売する新興企業が現れた。製品は変わっても基本モデルは変わらず、人々が参加する動機も変わらない。MLMに参加するのは決して裕福な人ではなく、経済的に困窮した人々だ。例えば米国では、正式な経済から排除された不法移民が多い。誰もタッパーウェアやプロテインシェイクに情熱を持ってMLMに参加するわけではない。彼らは、一生懸命働けば経済的な安定を得られると信じているから参加する。もちろん、その目標を達成するのはごく一部であり、さらに「それ以上」を手にするのはごくわずかだ。経済が厳しく、人々が経済システムから疎外感を抱いている限り、その疎外感を利用しようとする者が出てくる。

2010年代の暗号通貨ブームを見てほしい。著者はThe Next Webで働いていた時期がちょうどその熱狂のピークと重なり、毎日約250通のPRメールを受信し、そのうち約200通が暗号通貨関連だった。暗号通貨ブームは、世界的金融危機後の経済的衰退と生活水準の低下がなければ起こり得なかっただろう。FTXは主流派の観客を狙い、スタジアムの命名権を購入し、ラリー・デイビッドなどの有名人を起用したスーパーボウル広告を打った。人々が経済的に苦しく、賃金の停滞とインフレで購買力が削がれていなければ、そのような主流の魅力は存在しなかっただろう。パリス・ヒルトンがNFTについてジミー・ファロン番組で語ることもなかったかもしれない。

現在の状況はさらに悪化している。パンデミックや金融危機後とは異なり、当時は人々が「いつかは過ぎ去る」と信じていた。今、特に若者は、自分たちを必要としない停滞した雇用市場に直面している。AIがその言い訳としてよく使われるが、実際はコスト削減という単純な理由である場合が多い。それでも、AIがホワイトカラーの仕事を奪うという嘘が大衆に受け入れられているのは、サム・アルトマンやダリオ・アモデイのようなペテン師たちの言葉を、マスコミが鵜呑みにして繰り返したからだ。

著者は、この恐怖がReplitやCursor（同様のインフルエンサーマーケティングを展開）などの企業によって利用されていると懸念している。彼らは、自社のサービスが現在の不安定さから逃れる方法だと謳っている。しかし、「バイブコーディング」ソフトウェアの品質は低い。たとえアプリがデプロイされても、重要なセキュリティ脆弱性があった場合、非プログラマーがそれを認識し修正できるだろうか？ GDPRのような法律の下で、データ漏洩に対して金銭的責任を負うことを知っているだろうか？ 罰金は巨額になる可能性がある。また、ソフトウェア構築のコストも問題だ。Replitのサブスクリプションモデルでは、クレジットを使い切ると追加料金が発生する。コスト上限を設定せずにアプリを構築しようとした人が、数百ドルから数千ドルの請求書を受け取る可能性がある。これはMLMのスターターキットを購入するのと何が違うのか？ 少なくともMLMでは初期費用が事前に分かるが、LLMが特定のコーディングタスクを実行するのに何トークン消費するかは予測不可能である。さらに、TikTokの広告では計算コストに一切触れていない。もし正直にコストと技術の限界を伝えれば、売り込みは難しくなる。

仮に非プログラマーがアプリを構築できたとしても、どうやって収益化し、スケールさせ、顧客を獲得するのか？ 著者は15年以上にわたりHacker Newsを読んできたが、毎日投稿される「Show HN」のほとんどは消え去った。ジャーナリストとしても、現在は存在しない数千の企業からピッチを受けてきた。テック企業の構築は難しい。たとえプログラマーで、資本があり、VCの支援を受けていてもだ。ほとんどの人にとって、成功するスタートアップの創設者になる確率は、プロサッカー選手になる確率と同じくらい低い。それをTikTok広告で売り込むのは搾取的だ。

著者がこのニュースレターを書き終える頃、ReplitのRedditをチェックすると、誰かが友人の姉が「月に1万ドルを家で稼いでいる」と偽ってReplitを宣伝するよう報酬を受け取っていると不満を述べていた。真偽はともかく、著者は「バイブコーディング」が消費者に対して非常に非倫理的な方法でマーケティングされていると信じている。それは、ハーバライフやアムウェイのようなMLM、あるいは2010年代の暗号通貨の詐欺を彷彿とさせる。Replitもスポンサーコンテンツを投稿する人々も、ビジネスをコードするコストや、技術的専門知識なしに成功する可能性について正直ではない。このキャンペーンは、困難な時代に他の詐欺が成功してきたのと同じように、多くの人々から金銭を巻き上げることに成功するだろう。Replitが若者をターゲットにしたのは、彼らが仕事を見つけられず、未来の職場に自分たちの居場所がないと感じている時期を狙ったものであり、極めて略奪的だ。Replitを宣伝するクリエイターが、百万ドルアプリの可能性やAIでソフトウェアを構築するコストについて透明でなければ、彼らは意図的に有害な詐欺に加担しているか、理解せずに技術を宣伝していることになる。最終的な責任は、このマーケティングキャンペーンを承認し資金を提供したReplitの幹部たちにある。彼らは自分たちが何をしているのかをよく知っていたのだ。