如何構建安全的AI（而無需讓AI本身安全）

要點

• 採用工程系統方法，對LLM本身不信任，但透過輸入輸出邊界的安全額定防護欄確保系統安全。
• 防護欄必須低維或機率性，例如目錄寫入檢查或指令碼驗證分類器。
• 人類與LLM互動的風險類似於人際互動，但LLM在速度上極大放大了社會總危害。
• 最佳化互動時間預算可在效用與驗證覆蓋率之間取得平衡，安全與吞吐量可同時提升。