如何构建安全的AI（而无需让AI本身安全）

要点

• 采用工程系统方法，对LLM本身不信任，但通过输入输出边界的安全额定防护栏确保系统安全。
• 防护栏必须低维或概率性，例如目录写入检查或脚本验证分类器。
• 人类与LLM交互的风险类似于人际交互，但LLM在速度上极大放大了社会总危害。
• 优化交互时间预算可在效用与验证覆盖率之间取得平衡，安全与吞吐量可同时提升。