立场：AI对齐社区正无意中打造审查者工具箱
Sarah Ball 和 Phil Hackemann 的这篇立场论文（ICML 2026 口头报告）指出，AI 对齐技术是双重用途技术，容易被恶意行为者用于审查和操纵。通过将现有对齐手段与实际和潜在的滥用案例对照，作者警告追求“完美对齐”的模型同时在打造愈发强大的信息主导工具，呼吁社区正视并采取缓解策略。
2026年6月5日，Sarah Ball 和 Phil Hackemann 在 arXiv 上提交了一篇题为《立场：AI对齐社区正无意中打造审查者工具箱》的立场论文（编号 arXiv:2608.12346）。该论文已被第43届国际机器学习大会（ICML 2026）接收为口头报告，将于韩国首尔召开的会议上发表，并将收录于 PMLR 306 会议论文集中。
论文指出，现代 AI 对齐方法——最初旨在防止模型生成有害内容的技术——属于双重用途技术。一旦落入恶意行为者手中，这些本应让 AI 系统更安全的工具可能被反向用于审查和操纵。通过将当前的对齐技术系统地映射到真实和潜在的滥用案例，论文展示了对“完美对齐”模型的追求，可能会无意中打造出一套不断升级的“信息主导权”工具。
作者强调，这种风险并非遥远假设，而是正被三大趋势放大：用户越来越依赖 AI 作为主要信息来源；AI 开发与部署中的经济权力不对称现象突出；全球政治环境正日益滑向威权主义。在这样的背景下，更强的对齐能力可能恰恰意味着更高效的审查基础设施。
论文呼吁 AI 对齐社区以与处理意外事故同等的严肃性，认真对待故意滥用问题，并建议立即展开讨论，研究相应的缓解策略，以防范 AI 对齐技术的双重用途潜力。