完美对齐AI与人类价值观是不可能的

要点

• 完美对齐AI与人类价值观被数学证明不可能，基于哥德尔不完备定理和图灵停机问题。
• 科学家提出“管理性错位”策略，通过多种AI代理相互竞争和约束来提升安全性。
• 开源AI模型表现出更高行为多样性，有利于构建更稳健的认知生态系统。
• 该策略并非放弃安全，而是用分布式控制取代绝对控制的幻想。