庭を耕す：AIを異なる方法で使い、面白くて便利なアプリを作る

Mike Caulfield氏は最近、新しい映画推薦サイトPlot.fyiについて頻繁に語っている。このサイトの最も興味深い点は、大規模言語モデル（LLM）の使い方にある。従来のAI駆動サイトは、ユーザーの質問をプロンプトでラップし、LLMに送信して回答を得る。しかし、このアプローチにはジレンマがある。モデルが高価ならリクエストごとにコストがかかり、安価になればユーザーが直接LLMを使うため中間層が不要になる。Caulfield氏はこれを「Catch-22」と表現する。

Plot.fyiは全く異なる道を選んだ。同氏はClaude Codeを使って1万本の映画に約700の独自タグ（プロット要素など）をオフラインで付与した。そのデータは1.9MBのJSONファイルに格納され、サイトはHTMLとJavaScriptだけで構成される。サーバーもデータベースもなく、ブラウザ内で動作する。

推薦の仕組みはタグの交差計算に基づく。ユーザーが「ある映画に類似した作品」を尋ねると、システムはその映画のタグと全1万件のレコードを比較し、0.1秒未満で結果を返す。例えば、1980年代の映画『オーバーボード』を入力した場合、一般的なLLMは『The Proposal』などの馴染みのある作品を返す。一方、Plot.fyiは『私は魔女と結婚した』という1940年代の映画を挙げる。このような接続はインターネット上にほとんど存在せず、LLMは訓練データに基づくため見つけられない。Caulfield氏は、適切にタグ付けされたデータと標準コードの組み合わせが、プロンプトよりも完全な空間マッピングに優れていると説明する。

この手法の利点は3つある。第一に、リアルタイムのAI呼び出しがないため「LLM税」を回避できる。第二に、LLMが訓練データに基づく一般的な関連性しか示せないのに対し、タグベースのシステムはユニークなつながりを発見できる。第三に、データは開発者が所有し、オープンにするか競争優位性として保持するかを選択できる。

Caulfield氏は、将来のLLMがこの手法を時代遅れにする可能性を認めつつも、「今は今」と割り切り、こうした実験的な使い方を続ける意義を強調している。彼は「今ここにいるのだから、自分たちの望むように生きるべきだ。未来は来るときに来る」と述べている。