LLMはデフォルトの実行エンジンではない

どの世代にも近道に関する警告の物語がある。Z世代にとって最新の例の一つは、映画『Obsession』である。表面上は心理ホラー映画で、音楽店員のBear Baileyが魔法の柳の木を発見し、長年の片思いの相手に恋してもらおうと願いをかける。願いは叶うが、思いがけない形で成就し、やがて所有欲へと変わる。柳の木は本質的に邪悪ではない。それはBearが求めたものを正確に叶えるだけで、それが本当に必要なものかどうかは問わない。AIの導入は驚くほどこれに似ている。

Z世代の一人として、ポップカルチャーが娯楽を超えて、テクノロジーについての考え方を説明してくれる瞬間が好きだ。まさに『Obsession』が私にもたらしたものだ。それは、私たちがAIに対して同じことをしているのではないかと気づかせてくれた。AIが危険だからではなく、時にはBearのように、望む結果を得ることに集中しすぎて、進む道を疑問視するのをやめてしまうからだ。

すべてのAIイニシアチブは良い意図から始まる。ドキュメントの自動化、会議の要約、サポートエージェントの構築など、これらのアイデア自体に本質的な問題はない。問題は、AIがいつの間にか手段から目的そのものに変わってしまうことだ。チームは「これは価値を生むか？」と問う代わりに、「他にどこにAIを入れられるか？」と問い始める。それがもう一つの願いをかけることと同じだ。

AIの成熟度は、より多くのAIを構築することではない。Bearは一つの決断で自分を見失うのではなく、最初の決断以降のすべての決断が正当化されやすくなることで迷子になる。チームも同じ漂流を経験する。未成熟なチームは導入率で成功を測る：どれだけのAI機能をリリースしたか？どれだけのエージェントが稼働しているか？どれだけのワークフローがLLMを使っているか？成熟したチームはまったく異なるものを測定する：どのワークフローが実際に成果を改善したか？どのワークフローが運用コストを削減したか？どのワークフローが顧客に実際に使われているか？どのワークフローはそもそも構築すべきではなかったか？AIの成熟度は、AIをどれだけ慎重に導入し、価値がなければ使わない選択を自信を持ってできるかによって測られる。

ガバナンスは勢いを断ち切るために存在する。『Obsession』で最も静かな教訓は、願いそのものではなく、Bearが追いかけていた結果に意味があるかどうかを疑問視しなくなったことだ。彼は願いを維持することに集中し、その結果を理解しなくなった。AIガバナンスはまさにこのために存在する。その役割は意思決定の質を守ることだ。ガバナンスはチームが勢いによって消されがちな質問をし続ける余地を生み出す：なぜここでAIを使うのか？これは顧客の問題を解決するか？AIが本当に最善のアプローチか？よりシンプルなワークフローで同じ結果が得られるか？AIを完全に取り除いたらどうなるか？

最も高価なプロンプトは、存在する必要のないプロンプトである。トークン最適化、キャッシング、ワークフローオーケストレーション、プロダクション対応AIシステムなどのエンジニアリングプラクティスは非常に価値があるが、それらはすべてワークフロー自体が存在する価値があることを前提としている。ワークフローは価値がある場合にのみ存在する価値がある。プロンプトを最適化する前に、チームはまずプロンプトを導入した決定自体を最適化すべきだ。AIを賢く使うことは、すべての機会にイエスと言うことではない。ノーと言うことが別のワークフローよりも多くの価値を生むことを知ることが必要だ。

『Obsession』の悲劇はBearが願いをかけたことではなく、願いが叶った後、それが本当に欲しいものに導いているかどうかを疑問視しなくなったことだ。AIも同様に、生成し、要約し、分類し、自動化する。しかし、それらが意味のある価値を生むかどうかは問わない。その責任は依然として私たちにある。AIは願いを叶えるのが非常に得意だが、ガバナンスは正しい願いを確実に叶えるために存在する。

正当化できるAIワークフローを構築しよう。Unmeshedを使えば、モデル呼び出しと決定論的ルール、決定表、人間による承認を1つのワークフローで組み合わせ、各AIステップを反射ではなく意図的な選択にできる。Unmeshedを試して、問い合わせてほしい。