このエピソードは AI Engineer New York の会場で収録されたもので、ホストは swyx、ゲストは Moshi の CEO、Anekha Sokhal です。なお冒頭には告知があり、AIE CODE のチケットと応募が開始されたこと、これが年内最後のフラッグシップ AIE であることが伝えられています。
Anekha Sokhal の出発点は数学です。彼女は英国のウォーリック大学（Warwick）で数学・オペレーションズリサーチ・統計・経済学（MORSE）を専攻し、確率微積分や金融計算などを学びました。当時、この専攻は友人たちから「超オタク」とからかわれたと振り返りますが、今では同じ統計と数学のバックグラウンドが誰からも「機械学習であり AI だ」と呼ばれるようになったと語ります。彼女は早い段階からトレーディング業界を志望しており、スピード感がありデータを扱う仕事を望んでいました。トレーディングについて書かれた文章を読んだとき、自分には他のキャリアは考えられないと確信したといいます。最初に投資銀行のトレーディング部門でインターンを経験し、その後 JPモルガンに入社。新興国市場のデスクから始まり、コモディティ部門に移ってデリバティブ取引を担当し、キャリアの大半をエネルギー・デリバティブに費やしました。
データのバックグラウンドを持つ彼女は、市場を常に構成要素に分解して捉えていました。コモディティではファンダメンタルズ、ニュース、そして現物の動きが重要であり、彼女は「ゼロから組み立てる」ことに魅了されていました。トレーディング中に、データと市場で起きる出来事の関係が転換しつつあることを感じ、JPモルガンを離れて起業家になることを決意します。ただし作りたかったのはデータ企業でした。彼女はフルブライト奨学金を得て米国へ渡ります。データ分野の枠は英国全体で1名だけでした。ここで彼女は興味深い逸話を明かします。2020年、新型コロナウイルスの影響でガス市場が激しく変動し、エネルギー価格が急騰していた時期、フルブライトの面接でエネルギー市場の危機とデータの関係について語ったところ、面接官たちは当時電気代が高騰していたこともあり、共感を持って聞いてくれたといいます。米国に来た後は機械学習研究に深く取り組み、Stability AI との共同研究で ICLR に論文を発表し、NASA との協業にも参加するなど、そうした経験が最終的に Moshi につながりました。
Moshi は「自分がトレーディングをしていたときに欲しかったプログラム」だと彼女は説明します。金融トレーダーにリアルタイムのインサイトを提供するもので、まずはコモディティ、エネルギー市場、そしてマクロ市場を対象としています。人間が読み切れる量をはるかに超えるデータを処理し、今どの情報が自分のポートフォリオにとって重要かを伝えることが目的です。データ量について彼女はこう表現します。彼女が一文を話すのに4秒かかるとすると、同じ4秒の間に Moshi は300の新しい事柄を学習している、というのです。
データの種類については、彼女は自身がトレーディングしていた頃のやり方で市場を分解します。第一に構造化データ。先物市場の時系列と、それを取り巻くテクニカル分析――統計指標、テクニカル指標、移動平均など――があり、これらは絶えず更新されます。第二にファンダメンタルズ市場の時系列で、特に一部のコモディティ市場では需給データの比重が大きくなります。第三に非構造化データです。ニュースは最も分かりやすい例ですが、それ以外にも X（旧ツイッター）上のデータやポッドキャストの音声データなど、さまざまなオルタナティブデータが存在します。
しかし彼女によれば、これらはあくまで「公開されているデータ」にすぎません。もう一つ、ユーザーのプライベートデータというカテゴリがあります。トレーダーが信頼するアナリストのリスト、購読している情報源、社内データなどです。彼女は例を挙げます。エネルギー市場で取引する企業の中には、ホルムズ海峡を通る LNG 船の数を数える担当者を置いているところがあり、こうしたデータはユーザーにとって極めて個人的なものです。Moshi は公開データとユーザーのプライベートデータを組み合わせ、データのクリーニングと変換を行い、統計と機械学習でタグ付けし、その上に独自のオントロジーを構築して、Moshi の n 次元グラフ（n-dimensional graph）に投入します。そして最終的にソフトウェアとして出力します。Moshi を開くたびに、自分のポートフォリオに関連する新しい情報が表示され、さらに LLM に質問すれば、通常なら数日かかる答えを30秒で得られるといいます。
インタビューで swyx は「新しいブルームバーグなのか」と尋ねます。Anekha は興味深い問いだとしつつ、ブルームバーグはこの分野の「部屋の中の象」だと述べます（彼女は「800ポンドのゴリラ」という英語の比喩を英国流に言い換えて冗談を添えています）。彼女はブルームバーグの機能の一部、特に Bloomberg Chat を評価します。トレーダーはチャット上で数十億ドル規模の取引を行い、そこには標準化された価格フォーミュラも存在します。swyx も、自分が NLP に入るきっかけは Bloomberg Chat を構造化された価格表にパースしてオプション価格計算に使ったことだったと補足します。しかし Anekha は、Moshi を「新しいブルームバーグ」と呼ぶつもりはなく、別の種類のソフトウェアだと述べます。彼女が最も分かりやすく、そしておそらく物議を醸す言い方として挙げたのは、「ブルームバーグと Claude と Netflix の間に子どもが生まれたら、それが Moshi だ」というものです。
Netflix を持ち出した理由は、Moshi が社内でレコメンデーション・システムを構築しているからです。彼女の説明では、トレーダーがある事象に注目しているとき、実際にはその二次的・三次的な派生影響を今すぐ知る必要がありますが、それは一目では分かりません。彼女は原油トレーダーの例を挙げます。エネルギー関連の株式企業が原油に間接的に影響する動きをしているなら、トレーダーはそれを即座に知る必要があります。それは通常のニュースフィードからは得られませんが、情報点同士をつなぐグラフ（connected graph）から得られます。二つの情報点が同時に現れたとき、人間が関連づけるか、システムが関連を提示するかのどちらかしかない、というわけです。彼女は Moshi の出発点が、市場データ、それを扱うためのインターフェース、そしてトレーダーに合わせたレコメンデーションの三つを組み合わせることだと強調します。
番組ではさらに、信頼できる情報源とシグナル（trusted sources and signal）、文書抽出（document extraction）、モデルを自前で作るか購入するか（build versus buy models）といったエンジニアリング上のトレードオフも議論されます。ショーノートには Reducto（文書抽出）や GIQ の研究論文などの参考資料が挙げられています。
もう一つの大きなテーマは AI エンジニアが直面するプレッシャーです。Anekha は AI Engineer New York で強く感じたこととして、多くのエンジニアが経営層からのプレッシャーに圧倒されていると語ります。今や経営層は「チームは要らない、君がチームだ」と言い、個人が通常10人で担当するようなシステムを一人で構築しなければならない状況があるといいます。また、大会期間中の顧客ミーティングの経験も共有します。彼女は当初その日にニューヨークを発つ予定でしたが、会議のため滞在を延長し、木曜、金曜、月曜と予定が埋まり、さらにヒューストンでのエネルギー業界との打ち合わせも入り、大会後は一週間まるごと会議で埋まったといいます。彼女は大会での顧客との会話から学んだこと、そしてなぜ採用よりも先にユーザーに会うのかを語ります。
タイムラインは次のとおりです。AI Engineer New York と「君がチームだ」という話題で始まり（0:00）、Anekha の紹介（0:54）、数学からエネルギー・デリバティブへの道（2:09）、フルブライト奨学金と創業者になるまで（3:46）、Moshi がトレーダーに提供するもの（5:45）、大量の市場データの処理（6:10）、ブルームバーグと市場のワークフロー（9:03）、ブルームバーグ・Claude・Netflix の比喩（10:03）、ダッシュボードからワークフローへ（12:03）、信頼できる情報源とシグナル（15:13）、モデルの自前構築か購入かと文書抽出（17:13）、再び AI Engineer New York（18:20）、顧客ミーティングとコミュニティ（20:32）、採用と顧客との対話（23:54）、そして swyx が AI に入った経緯（25:55）です。末尾には自動文字起こしが掲載されており、表現に誤りが含まれる可能性がある旨が注記されています。