本期播客是 AI Engineer New York 的現場錄音,由 swyx 主持,嘉賓是 Moshi 首席執行官 Anekha Sokhal。這期節目還有一個作者説明:AIE CODE 的門票和申請現已開放,這是本年度最後一場旗艦級 AI Engineer 活動。
Anekha Sokhal 的職業起點是數學。她在英國華威大學(Warwick)攻讀數學、運籌學、統計與經濟學(MORSE)本科,學過隨機微積分、金融計算等課程。她回憶説,當年這個專業常被朋友調侃“太書呆子氣”,而如今同樣的統計與數學背景卻被所有人稱為機器學習與人工智能。她很早就知道自己想進入交易行業——她喜歡快節奏、與數據打交道的工作,讀過關於交易的介紹後便認定自己不會選擇其他職業。她先拿到投行交易部門的實習,隨後進入摩根大通(JPMorgan),起初在新興市場交易台,之後轉到大宗商品台做衍生品交易,職業生涯大部分時間專注於能源衍生品。
由於擁有數據背景,她習慣把市場拆解成各個組成部分來看。在大宗商品領域,基本面、新聞以及實體層面的變化尤其重要,她一直着迷於“從零開始搭建”。在交易期間,她觀察到數據與市場事件之間正在發生轉變,於是離開摩根大通,決心成為創業者,並且想做一家數據公司。她通過富布賴特(Fulbright)獎學金來到美國——該項目在數據方向全英國只有一個名額。她提到一個有趣的細節:2020 年新冠疫情導致天然氣市場劇烈波動、能源價格飛漲,她在富布賴特面試時談到能源市場危機以及數據與之的關係,評審們都能感同身受,因為當時大家的電費賬單都在飆升。來到美國後,她深入從事機器學習研究,曾在 ICLR 發表論文並與 Stability AI 合作,還參與過與 NASA 的合作項目,這些經歷最終引出了 Moshi。
Moshi 的定位是“我當年做交易時希望擁有的那款程序”:為金融交易員提供實時洞察,起步聚焦大宗商品、能源市場以及宏觀市場。它的核心目標是處理遠超人類閲讀能力的數據量,告訴交易員當下哪些信息與其投資組合真正相關。Anekha 用一句話説明數據規模:她説出一句話需要四秒鐘,而在同樣的四秒裏,Moshi 已經學習了 300 件新的事情。
在數據類型上,她按自己當年做交易的方式拆解市場。第一類是結構化數據,包括期貨市場的時間序列,以及圍繞它的各類技術分析——統計指標、技術指標與移動平均線等,並且這些數據持續更新。第二類是基本面市場的時間序列,尤其在部分大宗商品市場中,供需數據佔比很大。第三類是非結構化數據:新聞是最明顯的一類,此外還有各種另類數據,例如 X(推特)上的數據、播客中的音頻數據等。
但她説,這只是“公開可獲得的數據”。還有一整類數據是用户的私有數據:交易員自己關心的分析師名單、訂閲內容、內部數據。她舉例説,一些交易能源市場的公司會專門有人負責統計通過霍爾木茲海峽的液化天然氣(LNG)船數量,這類數據對用户而言是高度個人化的。Moshi 把公開數據與用户私有數據結合起來,完成數據清洗與數據轉換,再運用統計與機器學習方法打標籤,在其上構建本體(ontology),然後放入 Moshi 的 n 維圖(n-dimensional graph)中,最終以軟件形式輸出:每次打開 Moshi,用户都會看到與自己投資組合相關的新信息;用户也可以用 LLM 提問,在 30 秒內得到通常需要數天才能得到的答案。
訪談中 swyx 問及“是不是新彭博”這個問題。Anekha 説這是個有意思的問題,因為彭博(Bloomberg)顯然是這個領域裏“房間裏的大象”(她用英式説法調侃了“800 磅大猩猩”這個比喻)。她認可彭博的某些功能,比如 Bloomberg Chat——交易員會在聊天中完成數十億美元的交易,其中還有標準化的定價公式;swyx 也補充説,自己進入 NLP 的起點正是把 Bloomberg Chat 解析成結構化的定價表,用於期權定價。但 Anekha 表示,她不會説 Moshi 是“新彭博”,而是一種不同類型的軟件。她給出了一個自己覺得最好懂、也可能頗具爭議的説法:如果彭博、Claude 和 Netflix 有一個孩子,那就是 Moshi。
之所以提到 Netflix,是因為 Moshi 內部自建了一套推薦系統。她的邏輯是:如果一個交易員正在關注某件事,他其實現在就需要知道與之相關的二階、三階衍生影響,而這些影響並不是一眼就能看出來的。她舉了原油交易員的例子:如果一家能源股票公司正在做一些會間接影響油價的事情,交易員需要立刻知道;這一點從普通的新聞流裏拿不到,但可以從一個連接起各信息點的圖(connected graph)中得到——當兩個信息點同時出現時,要麼靠人去建立聯繫,要麼靠系統把關聯呈現出來。她強調 Moshi 的出發點是把市場數據、用於處理這些數據的界面,以及針對交易員量身定製的推薦三者結合起來。
節目還討論了可信信源與信號(trusted sources and signal)、文檔抽取(document extraction)以及自建模型還是購買模型(build versus buy models)等工程取捨,節目備註中列出了 Reducto(文檔抽取)與 GIQ 研究論文等參考資料。
訪談的另一條主線是 AI 工程師面臨的壓力。Anekha 説,她在 AI Engineer New York 上感受很深的一點是,許多工程師對來自管理層的壓力感到不堪重負:現在管理層會説“我們不需要一個團隊,你就是團隊”,於是個人要獨自搭建通常需要十個人才能完成的系統。她還分享了自己在大會期間的客户會議經歷——她原本計劃當天離開紐約,結果因為有會議而延長行程,先是週四,再是週五,然後是週一,之後還有休斯頓的能源行業會談,大會之後整整一週都被會議排滿。她談到從大會上的客户對話中學到的東西,以及為什麼見用户要排在招聘之前。
時間軸方面,節目從 AI Engineer New York 與“你就是團隊”這一話題開場(0:00),隨後介紹 Anekha(0:54),回顧她從數學到能源衍生品的經歷(2:09),講述富布賴特獎學金與成為創始人的過程(3:46),説明 Moshi 為交易員做什麼(5:45),討論如何處理海量市場數據(6:10)、彭博與市場工作流(9:03)、彭博、Claude 與 Netflix 的比喻(10:03)、從儀表盤到工作流(12:03)、可信信源與信號(15:13)、自建或購買模型與文檔抽取(17:13),再回到 AI Engineer New York(18:20)、客户會議與社區(20:32)、招聘與和客户交流(23:54),最後是 swyx 進入 AI 領域的個人經歷(25:55)。節目末尾附有自動轉錄文本,並説明措辭可能存在誤差。