Show HN：AIサイクルとトークン使用市場

生成AIは世界を変えると期待されているが、現実は矛盾に満ちている。業界はしばしば、生み出された価値ではなく、消費されたトークン数で成功を測る。これは「グッドハートの法則」—指標が目標になると、良い指標ではなくなる—の典型例だ。MITの報告によれば、生成AI導入の95%が収益を生んでおらず、市場は補助金に依存し、価格は真のコストを反映していない。

トークンの浪費は深刻な問題だ。多くのシステムはユーザーが見えない「思考用」トークンを使用し、複雑なタスクではこれらが全トークンの33%から60%を占める。さらに、毎回のリクエストに会話履歴や無関係なデータが付加され、「構造的無駄」が生じる。標準Transformerのアテンション機構は二次の時間・メモリ複雑性を持ち、コンテキスト長が倍になると計算量とメモリが約4倍になる。

エージェント型AIはこの問題を悪化させる。マルチステップのワークフローで動作し、計画や一連のアクションを実行する際、会話履歴や実行痕跡全体を付加するため「コンテキスト膨張」が発生する。Uberは2026年の年間コーディング予算をわずか4ヶ月で使い果たした。コストは非線形で予測不可能であり、多くのチームがエージェントの実行コストが構築コストを上回ると報告している。

業界には「循環問題」がある。大手テック企業がAIスタートアップに投資し、そのスタートアップが同じ資金を投資家のクラウドサービスに費やす。このブームはキャッシュフローではなく負債で賄われており、収益成長が実現しなければシステムリスクを生む。企業はトークンコストの非線形性と予測不能性に直面し、財務的な不安定性を抱えている。

AIモデルの性能向上は限界に達しつつある。トップモデルと10位モデルのベンチマークスコア差は1年で11.9%から5.4%に縮小したが、訓練計算量は数週間から数ヶ月で倍増し、消費電力も同様に増える。これが「資本的軍拡競争」だ—わずかな性能向上のために膨大な資源を投入する。しかし、ジェボンズのパラドックスが示すように、トークン単価の低下はむしろ総消費量の急増を招き、新たなワークフローや自律エージェントが指数関数的にトークンを消費する。

アルゴリズムは客観的ではない。AIは訓練データの偏見を継承し増幅する。例えば、Amazonの採用AIは男性中心のデータで訓練されたため、「女性」という単語を含む履歴書を不利に扱うことを学習した。大規模言語モデル（LLM）は確率的であり、真理を出力するよう設計されておらず、次トークンの予測に特化している。そのため、もっともらしいが事実に反する「ハルシネーション」を起こし、医療などの高リスク分野で誤情報を流す可能性がある。

業界では「オープンウォッシング」も問題だ。企業は「オープン」な重みを公開する一方、訓練データやパイプラインは秘匿し、独立監査が不可能な状態を作っている。これは「ブラックボックス」問題を悪化させる—深層ニューラルネットワークの内部動作は設計者にも不透明で説明不可能だ。説明可能AI（XAI）分野ではSHAPやLIMEなどの手法が開発されているが、まだ道半ばである。

AIのソフトウェア開発分野での利用は急増しており、OpenRouter上のプログラミングクエリは1年で11%から50%超に増加した。これはAIがプログラミングの規則論理を得意とするためだが、開発者の役割に圧力をかけている。同時に資源消費は深刻で、GPT-3の訓練には約70万リットルの真水が冷却に使われ、2027年までに全世界のAI用水需要は英国の総取水量の半分に達すると予測される。

AI企業は医療ブレークスルーを約束するが、現実は経済的インセンティブと技術的制約に形作られている。業界はこれらの課題に向き合い、成功の測定方法を再考しなければ、高コストなバブルに陥る危険性がある。