人類製作，非生成式AI

由Supercip971建立的“by-human”專案旨在提供一系列徽章，以表明專案未使用生成式AI（尤其是大型語言模型）進行創作。使用徽章的條件是確保AI生成的程式碼佔總程式碼行數的比例低於1%。即使無法精確統計AI程式碼比例，但只要認同反對AI濫用的立場，仍可使用該徽章。專案目標是提高透明度，減少程式碼庫中對AI的過度依賴。

該專案還附帶了一份基於科學研究的解釋文件，用以支援其各項主張，但該部分仍在完善中。專案明確規定了AI的預期使用方式：不應使用AI生成程式碼，但可將其用作智慧搜尋（如grep或Google）、程式碼審查助手、學習程式碼庫（如透過示例學習）、請求除錯幫助（但不編寫修復程式碼）、詢問功能實現思路（但不編寫最終實現）。每次使用AI輔助思考後，必須由人類審查並承擔責任。AI應謹慎使用，僅在人類無法提供快速解決方案時才考慮，同時需考慮能耗和生態足跡。

文章詳細闡述了為何認為生成式AI編寫程式碼存在問題。首先是版權、抄襲和許可證清洗問題。AI可能在無意中進行許可證清洗，已有案例顯示Claude Code被用來“重寫”整個專案，並將許可證從LGPL改為MIT，這明顯違反了許可證規定。此外，LLM在訓練時無法理解程式碼許可證，研究顯示其生成的程式碼中有3.35%來自強copyleft許可，且無法透過提示避免。這不同於人類學習程式碼後基於理解進行創作，LLM只是記憶並逐字輸出，導致許可證侵權風險。

其次是引入大量bug。資料表明，Chat-GPT 4的即時失敗率約為8%，程式碼質量僅在60%的情況下合格。AI在pull request中引入70%的重大缺陷和40%的關鍵問題，是人類的兩倍。GitHub Copilot在發現漏洞方面能力有限，僅能修正拼寫錯誤。自AI引入以來，程式碼的回退率從3.97%上升至7.09%，導致技術債務積累。更嚴重的是，AI會使使用者產生虛假的能力提升感：在練習中AI使用者的成績可能提高48-127%，但在實際測試中反而下降17%，且使用者無法意識到自己學習效果變差。

生態方面，AI的資源消耗驚人。70%的RAM生產專用於資料中心，Chat-GPT的功耗一年內增長98%（從2022年的2.69 MW增至2023年的5.43 MW）。每天處理25億次請求，消耗約804,400升水。單個Chat-GPT 4.5請求能耗約為20.5千瓦時。儘管這些數字存在估算成分，但AI對環境的負面影響不容忽視。此外，AI模型正面臨“近親繁殖”問題：LLM的訓練資料中越來越多是由AI自身生成的程式碼，且無法區分人類與AI程式碼，導致訓練質量下降。微軟曾表示，LLM生成的程式碼中有40%未經修改就被使用。僅需20份文件就能汙染任意規模的LLM。

計算能力的增長也面臨瓶頸。AI的發展依賴更強大的硬體、更多資料和更多訓練，但這些資源有限。有研究指出，Sutton的“苦澀教訓”部分錯誤，因為AI的進步並非源於計算成本的持續下降，而是資源投入的不斷增加。當資源無法滿足需求時，AI產業可能崩潰，而過度依賴AI的人將無法找回失去的知識。

總而言之，使用AI編寫程式碼看似神奇，但實則讓開發者變得更差，破壞環境和經濟，同時汙染自身資料集。投資者不斷投入巨資，但回報卻越來越少。這不過是一塊暫時的“閃亮石頭”，最終會褪色。