できるが、すべきか？AIゴールドラッシュにおける能力と意図

Dave氏は、Googleで17年間働き、SREエンジニアリングディレクターを務めたベテラン信頼性エンジニアです。彼はAI Builder Seriesのインタビューで「できるが、すべきか？」という鋭い問いを投げかけました。彼の視点は、コード生成ツールが残したものの後始末をしなければならない信頼性エンジニアの視点であり、現在のAIゴールドラッシュにおける核心的な矛盾、すなわち能力が意図の判断をはるかに超えていることを分析しています。

Dave氏は、AIがチームに巨大なコード生成能力を与えたが、その能力は判断を上回っていると指摘します。人々は今やほとんど何でも構築できるが、構築すべきかどうかを立ち止まって考える人はほとんどいません。運用・信頼性チームは、あまりに速い意思決定の下流でその影響を受けています。彼は特に、「設定言語を知っている人」という専門家の価値が崩壊しつつあると強調します。なぜならAIがその知識を民主化したからです。将来の価値は、ヒューリスティックス、問題分解、ステークホルダーマネジメント、アーキテクチャレベルの思考、つまり意図を能力に変換する「退屈な」翻訳作業にあります。

サプライチェーンの信頼について、Dave氏は「信頼」は誤った枠組みだと考えています。信頼できる人間のループはなく、人々は検証責任を放棄しているだけです。LiteLLMやTrivyの脆弱性のようなインシデントは、攻撃者が数分で行動できることを示しており（鍵のローテーション中であっても）、現在のソフトウェアの信頼方法やインシデント対応は破綻しつつあります。彼はこの能力を自社で構築するよりも、ChainguardやCloudsmithのようなサービスを購入することを好みます。

Dave氏はまた、最適化指標としてのMTTR（平均復旧時間）の価値を批判し、それは漏れをより早く塞ぐだけであり、漏れの数自体を無視していると述べます。より興味深いのはMTBF（平均故障間隔）と、システム的な変更を目的としたポストモーテムであり、故障が退屈で反復的な方法ではなく、新規な方法で発生するようにすることです。「誰もそれをしないようにする」というのは解決策ではなく、人が入れ替われば新人が同じ間違いを繰り返すからです。

彼は現在のAIブームを1990年代後半のpets.comバブルに直接例えています。資金が「何が定着するかを見るために」投じられています。淘汰が来るでしょう。生き残るのは人間にとって基本的に有用なものです。Googleが単にものを見つけられるようにすることで灰の中から現れたように。彼のアドバイスは「火の中に走れ」、つまりAIがどう揺れ動こうとも持続する本当に難しい問題を解決することです。

モデル選択について、Dave氏は最先端モデルはマーケティングが示唆するほどアーキテクチャ的に違いはなく、差別化の多くはブランディングだと言います。トークン単位の価格設定（例えばCopilotの変更で、安いモデルとプレミアムモデルの間に約5倍の差）や、Harveyがタスクごとにはるかに安いオープンモデルを見つけた事例から、企業にとっての本当の質問はモデルがより良いかどうかではなく、より安価で十分に良いかどうかです。

最後に、Dave氏は多くの人が見逃している信号を挙げます。主要なAIプロバイダーはまもなく大幅に高価になるでしょう。彼が興奮しているのは、自社で所有できる「十分に良い」、隔離された、焦点を絞ったモデルをセルフホスティングすることと、調整後の波で現れる真に人間中心の製品、つまりノイズをフィルタリングし、人間の判断に値する1つか2つのことを表面化し、「生活を楽にする」製品であり、会話を装って不安にさせるものではありません。