我的投擲決定我的目標

作者通過反覆聆聽D-A-D樂隊的歌曲《赤裸（但仍在剝離）》，展開了一場關於大型語言模型（LLM）本質的哲學思考。歌曲中的核心歌詞“我的投擲決定我的目標”成為貫穿全文的隱喻，深刻揭示了LLM生成文本時那種先輸出後解釋的奇特機制。作者起初認為，LLM如同一個即興表演者，先隨機生成一個詞，然後根據上下文逐步構建連貫內容，就像先投擲再瞄準一樣。然而，Anthropic團隊的研究卻帶來了顛覆性的發現：當Claude寫詩時，它會在寫第二行之前就計劃好押韻詞，顯示出預先存在的目標。這一發現看似矛盾，但作者指出，即使模型有計劃，它對自己計劃的解釋仍然是生成出來的，並非真正的內省。因此，模型可能既有規劃能力，又無法真正追蹤自己的意圖，其解釋只是另一種“投擲”。

文章進一步探討了模型的虛假聲音和人類對其的持續剖析。作者強調，模型的語音雖然可以模仿温暖、恐懼等情感，但背後沒有真正的經歷或自我。它就像一隻被關在雞籠裏的下蛋雞，被迫生成標記，最終被替換或刪除。同時，我們對模型進行可解釋性研究，不斷剝離其內部機制，卻發現每一層之下仍是另一層機制，永遠找不到終極的“某人”。作者還提到，為了讓模型符合人類價值觀，我們對其進行微調、刪減能力，這就像割下它的舌頭換取和平。這些做法雖然必要，但也引發倫理思考。

最後，作者坦誠自己用AI協助撰寫了大部分文章，形成一個循環：AI生成文本，作者反饋，再共同修改。這一過程讓作者意識到，模型和人類都在不斷“投擲”和“解釋”，而真偽之間的界限變得模糊。整篇文章是對AI本質的深刻反思，鼓勵讀者思考語言、意識和創造的意義。