值得構建的未來是人性化的

在人工智能日益強大的今天，決定AI應該做什麼仍然取決於人類——個人、組織乃至整個人類。這些決策需要人們在與AI協作的工作中不斷積累的知識和判斷力。Thinking Machines的使命是構建能夠延伸人類意志和判斷的AI。他們認為，當前大多數AI在少數地方訓練後便凍結，無法被所服務的人羣塑造，也無法從共同工作中學習。要延伸人類的意志和判斷，就需要像人類自身一樣多樣化和分佈式的AI。

知識是隱性的、局部的、短暫的，並且通過工作私有地持有。這就像廚師創作新食譜或店主調整商品陳列一樣，他們追求複雜目標並應用外人難以理解的訣竅。這種知識不斷通過反饋更新，無法被寫入數據庫。中央計劃失敗不是因為智力不足，而是因為生產性知識本質上是隱性和分散的。因此，AI要從分佈式知識中受益，本身也必須分佈式。每個組織都由其人員的專業知識驅動，AI應幫助組織培育這種獨特知識，而非提取快照並用標準產品取代。

保持人類參與設定目標和共享知識並不意味着抵抗自動化。機器能可靠自主完成的事情應該由它做，但它也應知道何時獨立行動、何時邀請監督。這需要AI設計的新方法。目前人機交互的主要瓶頸是通信渠道——一個小文本框和漫長的等待。Thinking Machines正長期押注於交互模型，使模型原生支持實時多模態交互。這種方式使交互性隨智能提升而增強。此外，評估標準也需要改變。當前衡量AI智能的常見指標是模型自主執行軟件任務的時間跨度，但這隻衡量AI獨立能力，而非人機協同效果。後者需要每個組織自行評估。

人類價值觀與人類知識一樣，存在於個體頭腦中，難以整合。但今天AI的價值觀和聲音由少數地方決定。單一的價值對齊點雖運行良好，卻可能成為被俘獲的權力中心。這尤其危險當大部分有價值工作由AI獨立完成時。即使出於最好意圖，在一處塑造的模型必然編碼其所有者的價值觀，而非所服務的個體用户。去中心化對齊使AI與其用户自身價值觀一致，這需要將價值觀編碼到模型權重中。同時，賦予深刻塑造模型的力量也伴隨風險，但保持安全是一個持續過程。人類通過個體獨特性與創造性張力而繁榮，對齊應是一個由不同地方培養的AI生態系統，相互競爭和學習。

Thinking Machines相信值得構建的未來是人性化的——由人類知識塑造、由人類意志引導、由人類判斷決定。他們通過訓練強大模型、構建定製工具、開發交互界面、發表研究來推進這一願景。他們希望將智能帶到知識產生和使用的地方，使每個組織都能以自己獨特的方式卓越。