立場：AI對齊社群正無意中打造審查者工具箱
Sarah Ball 和 Phil Hackemann 的這篇立場論文（ICML 2026 口頭報告）指出，AI 對齊技術是雙重用途技術，容易被惡意行為者用於審查和操縱。透過將現有對齊手段與實際和潛在的濫用案例對照，作者警告追求“完美對齊”的模型同時在打造愈發強大的資訊主導工具，呼籲社群正視並採取緩解策略。
2026年6月5日，Sarah Ball 和 Phil Hackemann 在 arXiv 上提交了一篇題為《立場：AI對齊社群正無意中打造審查者工具箱》的立場論文（編號 arXiv:2608.12346）。該論文已被第43屆國際機器學習大會（ICML 2026）接收為口頭報告，將於韓國首爾召開的會議上發表，並將收錄於 PMLR 306 會議論文集中。
論文指出，現代 AI 對齊方法——最初旨在防止模型生成有害內容的技術——屬於雙重用途技術。一旦落入惡意行為者手中，這些本應讓 AI 系統更安全的工具可能被反向用於審查和操縱。透過將當前的對齊技術系統地對映到真實和潛在的濫用案例，論文展示了對“完美對齊”模型的追求，可能會無意中打造出一套不斷升級的“資訊主導權”工具。
作者強調，這種風險並非遙遠假設，而是正被三大趨勢放大：使用者越來越依賴 AI 作為主要資訊來源；AI 開發與部署中的經濟權力不對稱現象突出；全球政治環境正日益滑向威權主義。在這樣的背景下，更強的對齊能力可能恰恰意味著更高效的審查基礎設施。
論文呼籲 AI 對齊社群以與處理意外事故同等的嚴肅性，認真對待故意濫用問題，並建議立即展開討論，研究相應的緩解策略，以防範 AI 對齊技術的雙重用途潛力。