人類製作，非生成式AI
該項目提供徽章，用於標識項目未使用生成式AI（尤其是LLM）創建。文章詳細討論了AI在代碼生成中的問題，包括版權侵犯、引入更多bug、生態破壞以及AI自我污染等，旨在鼓勵透明度和減少AI濫用。
由Supercip971創建的“by-human”項目旨在提供一系列徽章，以表明項目未使用生成式AI（尤其是大型語言模型）進行創作。使用徽章的條件是確保AI生成的代碼佔總代碼行數的比例低於1%。即使無法精確統計AI代碼比例，但只要認同反對AI濫用的立場，仍可使用該徽章。項目目標是提高透明度，減少代碼庫中對AI的過度依賴。
該項目還附帶了一份基於科學研究的解釋文檔，用以支持其各項主張，但該部分仍在完善中。項目明確規定了AI的預期使用方式：不應使用AI生成代碼，但可將其用作智能搜索（如grep或Google）、代碼審查助手、學習代碼庫（如通過示例學習）、請求調試幫助（但不編寫修復代碼）、詢問功能實現思路（但不編寫最終實現）。每次使用AI輔助思考後，必須由人類審查並承擔責任。AI應謹慎使用，僅在人類無法提供快速解決方案時才考慮，同時需考慮能耗和生態足跡。
文章詳細闡述了為何認為生成式AI編寫代碼存在問題。首先是版權、抄襲和許可證清洗問題。AI可能在無意中進行許可證清洗，已有案例顯示Claude Code被用來“重寫”整個項目，並將許可證從LGPL改為MIT，這明顯違反了許可證規定。此外，LLM在訓練時無法理解代碼許可證，研究顯示其生成的代碼中有3.35%來自強copyleft許可，且無法通過提示避免。這不同於人類學習代碼後基於理解進行創作，LLM只是記憶並逐字輸出，導致許可證侵權風險。
其次是引入大量bug。數據表明，Chat-GPT 4的即時失敗率約為8%，代碼質量僅在60%的情況下合格。AI在pull request中引入70%的重大缺陷和40%的關鍵問題，是人類的兩倍。GitHub Copilot在發現漏洞方面能力有限，僅能修正拼寫錯誤。自AI引入以來，代碼的回退率從3.97%上升至7.09%，導致技術債務積累。更嚴重的是，AI會使用户產生虛假的能力提升感：在練習中AI使用者的成績可能提高48-127%，但在實際測試中反而下降17%，且用户無法意識到自己學習效果變差。
生態方面，AI的資源消耗驚人。70%的RAM生產專用於數據中心，Chat-GPT的功耗一年內增長98%（從2022年的2.69 MW增至2023年的5.43 MW）。每天處理25億次請求，消耗約804,400升水。單個Chat-GPT 4.5請求能耗約為20.5千瓦時。儘管這些數字存在估算成分，但AI對環境的負面影響不容忽視。此外，AI模型正面臨“近親繁殖”問題：LLM的訓練數據中越來越多是由AI自身生成的代碼，且無法區分人類與AI代碼，導致訓練質量下降。微軟曾表示，LLM生成的代碼中有40%未經修改就被使用。僅需20份文檔就能污染任意規模的LLM。
計算能力的增長也面臨瓶頸。AI的發展依賴更強大的硬件、更多數據和更多訓練，但這些資源有限。有研究指出，Sutton的“苦澀教訓”部分錯誤，因為AI的進步並非源於計算成本的持續下降，而是資源投入的不斷增加。當資源無法滿足需求時，AI產業可能崩潰，而過度依賴AI的人將無法找回失去的知識。
總而言之，使用AI編寫代碼看似神奇，但實則讓開發者變得更差，破壞環境和經濟，同時污染自身數據集。投資者不斷投入巨資，但回報卻越來越少。這不過是一塊暫時的“閃亮石頭”，最終會褪色。