AI News HubLIVE
站內改寫1 分鐘閱讀

AI構建的程式碼庫可能缺乏治理。這意味著什麼?

許多AI輔助構建的軟體無法證明其實際行為,因為程式碼生成工具不生成治理記錄。作者介紹了ASE(審計主權引擎),用於生成每個AI操作的加密收據,並提供基礎診斷服務,幫助公司評估其程式碼庫的治理情況。

來源Hacker News AI作者: Auditome

在AI輔助程式設計工具如Claude、Cursor、Bolt、v0或Replit的幫助下,開發者可以快速交付產品。然而,這些產品是否真正可信?問題在於,很少有人會問:你能證明你的AI構建的軟體實際做了什麼嗎?不是你認為它做了什麼,而是它真正做出的決策、允許的操作、阻斷的行為,以及當這些環節缺失時會發生什麼。

大多數AI構建的程式碼庫無法回答這個問題,並非因為開發者粗心,而是因為程式碼生成工具本身不生成治理記錄。這個看不見的鴻溝直到客戶詢問、投資者深究或出現問題時才會暴露。為此,Shaun Williamson建立了ASE——審計主權引擎(Auditome Sovereign Engine)。每個透過ASE執行的AI輔助操作都會在執行前生成一個加密簽名的收據,記錄誰發起了請求、他們擁有什麼許可權、適用的策略、存在的證據以及最終決策。收據是不可篡改的,且可獨立驗證——任何持有收據的人都能在不訪問原始系統的情況下驗證其真實性。如果操作被阻止,會有簽名的拒絕收據說明原因;如果需要人工稽核,則有升級收據;如果事後對決策提出質疑,則會生成錨定原始決策的補救收據。每個判斷、每張收據,構成一個連續的證據鏈。

為了推廣這一理念,Williamson開放了10個基礎診斷(Foundation Diagnostic)的名額,價格為495美元。診斷內容包括治理缺口分析、可追溯性缺口、許可權和批准缺口、高風險路徑和模組、證據支援宣告評估,以及優先順序修復建議。診斷報告以通俗英語撰寫,並附有面向開發者的附錄。如果未能提供清晰、有證據支援的報告,作者承諾全額退款。這是一個機會,讓AI構建的軟體能夠證明自己的行為,而不僅僅是聲稱。值得注意的是,這並非滲透測試、法律建議或合規認證,而是一個結構化的、基於證據的診斷工具。