追求純粹（做AI的正確方式）
作者從自身在宗教家庭成長的經歷出發，探討了AI倫理中“正確方式”的複雜含義。文章對比了Anthropic CEO Dario Amodei強調“引導而非阻止”的立場，與Anil Dash推崇的開源、倫理資料來源的AI工具，並穿插了AI工程師社群中的不同實踐。作者最終主張透過傾聽多方觀點和親自實驗，形成自己的判斷。
文章情報
要點
- 作者將青少年時期宗教團體對“純潔”的追求，類比為當前AI倫理中對“正確方式”的討論。
- Dario Amodei將AI比作不可阻擋的火車，認為關鍵不是停下它，而是引導它避開危險。
- Anil Dash提出“好的AI”應使用合意資料、開源、可在本地執行，並以CorridorKey為例。
- 作者認為沒有絕對的“正確方式”，建議工程師透過傾聽和實踐找到自己的立場。
為什麼重要
這條新聞值得關注，因為作者將青少年時期宗教團體對“純潔”的追求，類比為當前AI倫理中對“正確方式”的討論。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
我成長於一個非常虔誠的宗教家庭。我並不認為這本身是好是壞，但作為這個故事的一部分，它很重要。十幾歲時，我大多數週五晚上都在青年團契度過，為人們祈禱或打掃衛生。那時我被招募去領導一個名為“應許女孩”（沒錯，你可以笑，因為它正是你想的那樣！）的團體。這個純女性團體的目標是追求純潔，以侍奉上帝和我們未來的丈夫——做正確的事。該團體的核心活動是聚在一起討論其他女孩約會有多麼糟糕，而我們這些純潔的人則聚在一起為尚未見面的丈夫祈禱。有時會有演講嘉賓來告訴我們，其他女孩在高中約會是因為她們在某種程度上破碎了，或者自尊心低等等。回想起來，我為自己當時的樣子感到自豪：意志堅定，不易受影響，道德上確信。我認為這是個好狀態，但也有很多缺點。
前幾天我在LinkedIn上看到Python社群一位好朋友的部落格文章，討論為什麼任何有道德的人會在大型科技公司或實驗室從事AI工作。這是個公平的問題。評論中有人說他認為主要是來自第三世界國家的人別無選擇。另一人說是那些太依賴金錢的人，而正確的方式是在你信任的公司工作。這個對話在我腦海裡縈繞了兩週，我想在這裡探討一下。
我最近看了Dario和Daniela Amodei接受Oprah採訪的影片。當被問及為什麼他們競相構建一項Dario曾說過可能導致人類滅絕的技術時，Dario回應說：“這項技術對人類來說是劃時代的變革。人類開始用火，後來發明了蒸汽機和工廠，引發了工業革命……但我們明白工業革命作為一個過程，作為技術事件，是值得做的。我們不想住在洞穴裡，但需要以正確的方式管理它。我們對這家公司的想法是：有很多公司在構建這項技術。這無論如何都是正在發生的事。我們身在其中。有一列火車正在快速駛向某個方向。你不想讓它墜毀。你無法停下火車。但你能做的是引導火車，讓它不撞上岩石。我們認為Anthropic的目標是以正確的方式做事，將風險降低到零，以正確的方式做事。”在這個回答中，Dario三次提到了“以正確的方式”！這到底意味著什麼？它隱含的意思是：AI已經存在，它是好事，不會停止，但火車需要剎車，人們需要被警告。在倫敦的Code with Claude會議間隙，我有機會與一些Anthropic員工交談。我問他們怎麼想。話題轉向了Mythos和Project Glasswing，以及為什麼有些事情要先到那裡以確保安全。我覺得這很公平，但不確定是否足夠。許多人在網上說他們認為Anthropic的道德立場是恐懼營銷或營銷策略。我同樣不確定。
另一方面，幾周前，Glitch前創始人兼StackOverflow前總監Anil Dash分享了一篇題為“（一個）好的AI來了”的部落格。他在LinkedIn上寫道：“我們這些既對大型AI有合理批評，又相信機器學習系統如果更負責任會很有幫助的人，一直在等待以正確方式製造的工具。我一直說可以擁有隻使用合意收集的內容、開源且開放權重、能在本地機器上執行、旨在賦能創作者而非剝削他們的AI……”你應該自己讀這篇部落格，但Anil重點介紹了一個由Corridor Digital建立的影片生成AI工具。該工具幫助創作者將影片轉換為風格化視覺效果，同時保留原始表演、動作和鏡頭內容。他們製作了一個影片，有190萬觀看量！儘管使用了相同的技術，但CorridorKey與Sora或VEO的區別在於其構建和分發方式：倫理獲取的資料、開放權重且免費使用。雖然我們素未謀面，但我非常尊重Anil，他說這是正確的方式。
我個人熱愛開源，認為Python社群的一個閃光點是他們對倫理和技術如何影響人們的深思熟慮。我對此的疑慮在於，開放權重模型和AI技術都在一定程度上依賴於大型實驗室的研究成果。我不確定我們能否完全擺脫達到這一點的過程。批評和重新思考我們構建這些系統的方式是值得追求的。我認為開放權重模型將成為未來AI系統的重要組成部分，但我猶豫是否要說這是所有事情的正確方式。我對此有很多想法，但留待以後更長的部落格再談。
純粹重要嗎？什麼是做AI的正確方式？
我不再是青少年了，我也不再相信我高中時其他女孩約會是因為她們有問題。事後看來，我認為那時去約會一些會對我有好處，這樣我就可以自己做出明智的決定，而不是依賴別人告訴我做什麼。這也是我對如何使用/從事AI得出的結論——至少目前如此。
人們對AI的使用方式大相徑庭。在AI Engineer Europe會議上，我的朋友Mario Zechner（創造了Pi，據說Armin Ronacher也參與了）談到我們需要放慢腳步，保持人類監督，並嘗試考慮將哪些任務分配給智慧體，以及在哪些地方人類應介入程式碼。他的演講與OpenAI的Ryan Lopopolo的演講形成對比，後者談到程式碼是一種豐富資源，我們應該允許智慧體完成完整的工程任務，人類只引導過程而不寫程式碼。隨後我在DjangoCon Europe演講時，遇到了兩位完全不使用AI的工程師。他們沒有道德或倫理理由，一個擔心AI會犯錯，另一個只是覺得學習新事物的認知負擔太重。我認識的幾位工程師供職的公司因AI解僱了人員。同時，許多工程師因token成本而被限制AI編碼支出。事情太多了！
我想以這句話結束這篇部落格：我認為你能為自己做的最好的事情就是傾聽和實驗。根據你在LinkedIn上關注的人、參加的會議或工作的公司，當有人談到“做AI的正確方式”時，你腦海中可能會浮現不同的東西。範圍很廣，我認為聽取儘可能多的觀點是有幫助的，這樣你才能知道這一點。最終，無論別人在部落格裡寫什麼，你都是需要在這個行業未來生存下來的工程師。你也是一個人，需要調和你的信念、道德立場以及這些如何塑造你的行動。我自己仍在思考這些問題，如果你有想法，我很樂意聽聽。如果你願意，請給我留言。感謝閱讀！