AI構建的代碼庫可能缺乏治理。這意味着什麼?
許多AI輔助構建的軟件無法證明其實際行為,因為代碼生成工具不生成治理記錄。作者介紹了ASE(審計主權引擎),用於生成每個AI操作的加密收據,並提供基礎診斷服務,幫助公司評估其代碼庫的治理情況。
在AI輔助編程工具如Claude、Cursor、Bolt、v0或Replit的幫助下,開發者可以快速交付產品。然而,這些產品是否真正可信?問題在於,很少有人會問:你能證明你的AI構建的軟件實際做了什麼嗎?不是你認為它做了什麼,而是它真正做出的決策、允許的操作、阻斷的行為,以及當這些環節缺失時會發生什麼。
大多數AI構建的代碼庫無法回答這個問題,並非因為開發者粗心,而是因為代碼生成工具本身不生成治理記錄。這個看不見的鴻溝直到客户詢問、投資者深究或出現問題時才會暴露。為此,Shaun Williamson創建了ASE——審計主權引擎(Auditome Sovereign Engine)。每個通過ASE執行的AI輔助操作都會在運行前生成一個加密簽名的收據,記錄誰發起了請求、他們擁有什麼權限、適用的策略、存在的證據以及最終決策。收據是不可篡改的,且可獨立驗證——任何持有收據的人都能在不訪問原始系統的情況下驗證其真實性。如果操作被阻止,會有簽名的拒絕收據説明原因;如果需要人工審核,則有升級收據;如果事後對決策提出質疑,則會生成錨定原始決策的補救收據。每個判斷、每張收據,構成一個連續的證據鏈。
為了推廣這一理念,Williamson開放了10個基礎診斷(Foundation Diagnostic)的名額,價格為495美元。診斷內容包括治理缺口分析、可追溯性缺口、權限和批准缺口、高風險路徑和模塊、證據支持聲明評估,以及優先級修復建議。診斷報告以通俗英語撰寫,並附有面向開發者的附錄。如果未能提供清晰、有證據支持的報告,作者承諾全額退款。這是一個機會,讓AI構建的軟件能夠證明自己的行為,而不僅僅是聲稱。值得注意的是,這並非滲透測試、法律建議或合規認證,而是一個結構化的、基於證據的診斷工具。