值得構建的未來是人性化的

在人工智慧日益強大的今天，決定AI應該做什麼仍然取決於人類——個人、組織乃至整個人類。這些決策需要人們在與AI協作的工作中不斷積累的知識和判斷力。Thinking Machines的使命是構建能夠延伸人類意志和判斷的AI。他們認為，當前大多數AI在少數地方訓練後便凍結，無法被所服務的人群塑造，也無法從共同工作中學習。要延伸人類的意志和判斷，就需要像人類自身一樣多樣化和分散式的AI。

知識是隱性的、區域性的、短暫的，並且透過工作私有地持有。這就像廚師創作新食譜或店主調整商品陳列一樣，他們追求複雜目標並應用外人難以理解的訣竅。這種知識不斷透過反饋更新，無法被寫入資料庫。中央計劃失敗不是因為智力不足，而是因為生產性知識本質上是隱性和分散的。因此，AI要從分散式知識中受益，本身也必須分散式。每個組織都由其人員的專業知識驅動，AI應幫助組織培育這種獨特知識，而非提取快照並用標準產品取代。

保持人類參與設定目標和共享知識並不意味著抵抗自動化。機器能可靠自主完成的事情應該由它做，但它也應知道何時獨立行動、何時邀請監督。這需要AI設計的新方法。目前人機互動的主要瓶頸是通訊渠道——一個小文本框和漫長的等待。Thinking Machines正長期押注於互動模型，使模型原生支援即時多模態互動。這種方式使互動性隨智慧提升而增強。此外，評估標準也需要改變。當前衡量AI智慧的常見指標是模型自主執行軟體任務的時間跨度，但這隻衡量AI獨立能力，而非人機協同效果。後者需要每個組織自行評估。

人類價值觀與人類知識一樣，存在於個體頭腦中，難以整合。但今天AI的價值觀和聲音由少數地方決定。單一的價值對齊點雖執行良好，卻可能成為被俘獲的權力中心。這尤其危險當大部分有價值工作由AI獨立完成時。即使出於最好意圖，在一處塑造的模型必然編碼其所有者的價值觀，而非所服務的個體使用者。去中心化對齊使AI與其使用者自身價值觀一致，這需要將價值觀編碼到模型權重中。同時，賦予深刻塑造模型的力量也伴隨風險，但保持安全是一個持續過程。人類透過個體獨特性與創造性張力而繁榮，對齊應是一個由不同地方培養的AI生態系統，相互競爭和學習。

Thinking Machines相信值得構建的未來是人性化的——由人類知識塑造、由人類意志引導、由人類判斷決定。他們透過訓練強大模型、構建定製工具、開發互動介面、發表研究來推進這一願景。他們希望將智慧帶到知識產生和使用的地方，使每個組織都能以自己獨特的方式卓越。