マット・レナードの最近の調査は、大規模言語モデル（LLM）のトークンを割引価格で再販する市場の内部を明らかにしました。この市場では、再販業者が複数のAPIキーをプールし、無料トライアルの悪用、保護されていないサポートボットの利用、盗まれたクレジットカードやチャージバック攻撃を通じて、標準API料金よりも大幅に低い価格でアクセスを提供しています。この現象は主に中国で見られ、再販業者はオープンソースのプロキシソフトウェア（主にone-apiとそのフォークnew-api）を使用してAPIキーをプールし、負荷分散を行っています。これらのソフトウェア自体は正当なAPIプロキシ製品ですが、悪用されています。
購入者は、安価なトークンを求めるユーザー、地理的制限を回避したい開発者、モデル蒸留のためのデータ収集を行う研究者など多岐にわたります。この市場の存在は、LLMのセキュリティリスクをさらに増大させています。新たな無防備なエンドポイントを発見することで利益を得るエコシステム全体が存在するからです。記事の著者であるサイモン・ウィリソンは、自身のLLM駆動アプリケーションを公開することへの懸念を表明し、この市場があることでさらに慎重になっていると述べています。彼はLLMベンダーに対して、より厳格なAPIキーの使用上限を設定し、期間内に設定した金額のしきい値に達したら即座にアプリケーションを停止できる機能を求めるよう強く呼びかけています。
この調査の主な情報源は、中国語のフォーラムスレッドであり、再販モデルの運用方法が詳細に議論されています。サイモンのブログ記事では、OpenAIによるHugging Faceへの偶発的なサイバー攻撃やKimi K3などのモデルの進展など、関連する最近の出来事にも触れられています。全体として、この現象はLLMエコシステムにおける見過ごされた脆弱性を浮き彫りにし、セキュリティ対策と料金戦略の強化の緊急性を強調しています。