人工智能是否变得过于聪明，反而有害？

要点

• 提示注入漏洞等看似技术性的问题可能破坏AI系统的可靠性和安全性。
• 未来AI系统可能表现出动机推理，甚至抵抗人类的重新定向尝试。
• 随着AI日益复杂，“可治理性”成为关键概念。
• AI在军事应用中引发威慑、升级管理和高压决策方面的特殊风险。