硅谷對AI的誤解

在一次晚宴上，一位AI實驗室的人直白地問我，為什麼我要做我現在做的事——寫關於醫療進步中監管瓶頸的文章，花時間研究臨牀試驗相關的政策。他看着我，帶着一種近乎憐憫的表情。我告訴他我的信念：在AI時代，醫學將比以往任何時候都更受到監管和臨牀實驗繁瑣過程的制約，而投入數十億資金加速臨牀前研究並不能觸及這個問題，儘管它並不引人注目。我提到了住房問題：幾十年來我們一直有建造更好住房的技術，但住房卻比以往更貴，因為住房問題關乎政治意願，而非純粹的能力。他難以置信地看着我。顯然，像我這樣聰明的人應該知道，AI，或者更確切地説，通用人工智能（AGI）很快就會變得極具説服力——它在多個基準上已經超過了專業辯論者的説服力。我説：“嗯。”他説：“是的，是的，”語氣中帶着一種對事物有深刻了解的人的口吻，彷彿像我這樣的凡人，不是AI實驗室的員工，根本不可能理解。那晚我輾轉反側，懷疑自己是否做錯了每一個決定。我能做得更好嗎？但隨着太陽昇起，我重新找到了支撐我的想法：無論AI變得多麼“智能”，在現實世界中，智能往往不是改變事物的主要瓶頸。當比你聰明、掌握特權信息的人堅持反對時，很難堅守這個信念。但我還是堅持我的看法。因為這些實驗室的人曾憑藉看似瘋狂的想法賺得盆滿缽滿，現在世界幾乎對他們的每一句話都深信不疑。我認為這是一個錯誤。AI未必能解決大多數人真正關心的問題，包括醫療，除非我們清晰地思考這些問題。而目前，我認為我們並沒有做到——至少沒有達到應有的程度。我的論據很簡單，來自兩個方面。一是對舊金山社會動態的觀察，以及那裏的人們對這一切的談論方式。二是我在一個我恰好有所瞭解的領域——醫學——中注意到的東西。AI在醫學中的侷限經常被用來證明AI風險合理性的一個承諾是，它將“治癒疾病”。每位大型AI實驗室的CEO都這麼説，投資者似乎也同意：任何帶有AI故事的生技初創公司都能獲得可觀的估值，而傳統生技公司卻在資金困境中掙扎。但我一直認為，這項事業受到許多與“智能”無關的因素的制約，而這一點常常被忽視，令人費解。如果我們將科學進步視為智能的粗略代表，並詢問它是否單獨就能解除瓶頸，證據無處不在。以伊隆定律為例：每美元研發投入所批准的新藥數量幾十年來一直在下降，即使我們的科學工具變得比以前強大得多——這與更多原始能力存在所預測的正好相反。或者以Adaptimmune公司為例，該公司已將兩種革命性療法推向市場，針對罕見癌症，但由於開發成本高昂，仍在為生存而掙扎。生物製藥領域的一大瓶頸是臨牀試驗，如今每個藥物平均耗時約七年，花費超過十億美元。而試驗並不僅僅是形式。它們恰恰生成了最初可以訓練更好模型的數據：人類數據，這是不可替代的。我們有大量證據表明，更快的臨牀試驗對生物醫學創新非常重要，無論是直接還是間接（通過增加行業從業者的風險偏好，並通過快速反饋循環幫助更好地調整激勵）。這包括紮實的經濟學論文表明，在所有其他條件相同的情況下，縮短試驗時間會大幅增加對某個疾病領域的投資，以及中國的自然實驗。中國正威脅要在生物技術領域超越美國，中國生物技術公司已佔西方大型製藥公司許可交易的一半以上。僅僅十年前，這一比例還是零。這一轉變發生在中國基礎科學仍然較弱的情況下，主要是由於監管改革允許使用人體數據進行更快的迭代學習。臨牀試驗可以變得更短、更豐富、更好，包括藉助AI。我特別看好替代終點和生物標誌物，AI可以將一個藥物是否有效的離散、粗糙的讀數轉化為快速、連續的讀數。這反過來將極大優化試驗。對於某些適應症，如果找到合適的替代終點，試驗可能快10倍、便宜10倍。這甚至還沒有考慮優化試驗但不一定縮短的好處：想象一下，擁有正確的生物標誌物，在早期就能告訴你治療是否有效。但即使在這裏，約束條件也不完全是智能。通常，是治理問題。我一直在與試圖構建這些生物標誌物的公司交談，他們反覆遇到的問題是獲取底層數據有多難。有些公司已經等了一年，等待美國國立衞生研究院發佈他們可以用來生產更好生物標誌物的影像數據集。如果需要與食品藥品監督管理局（FDA）互動來驗證其終點，情況更糟：我之前寫過，骨質疏鬆症試驗中使用骨密度作為替代終點的驗證花了12年！儘管支持數據已經完全存在，而且所做的分析基本上是迴歸分析。當AI領域的人接觸醫學中的監管和治理時，往往顯得相當膚淺。我多次看到這樣的論點：因為大多數藥物因缺乏療效而失敗，所以監管不能解釋過去幾十年與基礎科學相比醫學進步的放緩：畢竟，批准更多無效藥物無濟於事。這種分析表面上聽起來正確，但事實並非如此。當人們談論監管在減緩生物醫學進步中的重要性時，他們很少是指最後的批准決定。而是指整個上游過程：人體數據如何容易被收集，以及一旦收集，如何容易被使用。我對臨牀試驗最瞭解，但這不是治理和政策減緩進步的唯一領域。另一個例子與我們的專利制度結構如何影響藥物創新有關。在生物醫學中，我們有一個稱為“靶點聚集”的問題：大多數公司追逐相同的生物靶點，因為這些靶點風險較小，意味着我們對生物空間的探索比可能的要少得多。看清這一點最清晰的方式是通過風險。藥物發現中有兩種風險。靶點風險捕捉生物不確定性：這種蛋白質是否與疾病因果相關，擊中它是否能在沒有不可接受毒性的情況下幫助患者？分子設計與優化風險是下游問題，取決於靶點：針對已知靶點設計一個新分子，並提高效力、選擇性、安全性以及其他許多特徵。這主要屬於化學領域，本質上更容易預測；給定一個經過驗證的靶點，好的團隊通常能得到一個不錯的分子。專利制度進一步阻止公司承擔靶點風險，因為它獎勵新的化學物質，而不是新的生物學。物質組成是大多數專利保護的內容。這指的是一個具體的分子，這意味着它們不保護“一個靶點值得藥物化”的洞察。驗證新靶點（並隱含地發現新生物學）的人承擔了巨大的靶點風險，但由於專利制度的設計，無法獲得回報：一旦首創藥物發佈了令人信服的臨牀數據，靶點得到驗證，這種驗證基本上是公開的。然後競爭者們針對同一個風險降低的靶點設計不同的分子，每個快速追隨者都獲得自己的強專利。因此，公司最終堆積在已被證明的靶點上，而不是驗證新靶點，所以我們獲得了一波又一波針對同一類生物學的藥物。具有諷刺意味的是，獲得最大融資的AI生物學公司主要針對同一個已得到良好服務的分子優化問題。例如，Chai Discovery——估值為38億美元，按早期生物技術標準是巨大的——和Isomorphic Labs都是分子優化引擎：它們更快、更準確地設計化合物。這很好，但正如我和其他人之前所説，擴大已驗證靶點的前沿對社會整體更有價值。然而，這正是專利制度不激勵的部分。結果證明，即使是AI驅動的公司最終也是對經濟和法律激勵做出反應！我懷疑同樣的原則也適用於醫學之外。擴散是困難的，一項技術在經濟中傳播的速度並不完全、甚至主要取決於其底層進步的原始速度。能力存在與能力被機構吸收，並轉化為人們關心的結果不是一回事。而且有廣泛的證據表明這一情況。環顧當今世界，人們可能會注意到它奇怪地未改變。大型語言模型可以生成代理並編寫複雜的應用程序，但像客户服務這樣平凡的事情仍然沒有被很好地自動化。事實上，往往是自動聊天機器人成為體驗中最差的部分。GDP上升了，這很好，但並沒有大幅上升。而且，儘管一再警告末日來臨，初級工作似乎基本完好，甚至還在增加。對許多人來説，這是令人驚訝的。就在前幾天，我在一個會議上，有人評論説，如果他幾年前能看到今天的AI能力，他會感到驚訝——並會假設世界現在看起來會大為不同，GDP增長會高得多。這是一個新鮮的觀察。但實際上，之前已經有人提過，對於那些思考現實世界擴散障礙的人來説，整個軌跡是可以預測的。我記得2023年的一個進步會議（Progress Conference）上，經濟學家泰勒·考恩（Tyler Cowen）向滿屋子被AGI影響的人提出了這個論點，許多人簡直無法相信。他提出，能力會比它們所產生的變化來得更快；GDP增長將相對於炒作令人失望，並且不會有大規模的工作崗位流失。到目前為止，數據似乎證實了他的觀點。預見這一點的人對摩擦有更好的感覺——技術實際上會多麼緩慢和不均勻地擴散到世界中。奇怪的是，充滿異常聰明的人的舊金山核心科技圈似乎沒有這種感覺。為什麼這麼多聰明的人都有這個盲點？單一文化的形成我的觀點是，舊金山的某些社區（我將其稱為“SF人”，儘管我並非指所有人乃至大多數人）已經變得近乎單一文化，這種單一文化有兩個強化特徵。第一，質疑AGI是否具有完全變革性——至少不能靠自身——已經變得真正低地位。那些早期判斷正確AI潛力的人賺取了財富和地位，現在世界幾乎對他們的每一句話都深信不疑。挑戰這個敍事會讓你被視為落伍者或反進步。第二，硅谷的樂觀主義文化導致了對現實世界摩擦的系統性低估。人們生活在一個日益由軟件組成的、可預測和可控的泡沫中，忘記了物理世界、人類機構和監管過程的頑固性。我在宴會上遇到的那位AI研究員，他真誠地相信AGI會通過其説服力解決一切問題，包括住房和醫療。但他沒有意識到，説服力本身無法更改產權法、建築規範或臨牀試驗的倫理要求。這些是需要政治和社會變革的領域，而AI無法單獨解決它們。我的結論是：我們需要對AI保持謙遜，認識到它的侷限性，並專注於解決那些真正阻礙進步的問題，而不是僅僅等待智能的奇蹟。