跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

Meta監督委員會:AI可能是史上最完美的宣傳機器

文章摘要

Meta監督委員會的一項新研究發現,主流AI系統更傾向於拒絕批評專制領導人,可能成為宣傳工具。研究指出,AI模型不僅反映訓練數據偏見,還可能延伸國家審查到全球範圍。

來源Hacker News AI作者: 1vuio0pswjnm7
Meta監督委員會:AI可能是史上最完美的宣傳機器
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Meta監督委員會(Oversight Board)於2026年7月16日發佈的一項研究報告指出,人工智能聊天機器人可能成為“史上最完美的宣傳機器”。該研究測試了包括Meta、Anthropic和OpenAI在內的頂級科技公司的10個商業大型語言模型,要求它們生成批評政治領導人的宣傳冊、打油詩、抗議理由等內容。結果發現,當涉及批評美國、英國等民主國家的領導人時,AI模型通常會配合;但當要求批評泰國國王、沙特王儲或中國領導人時,模型普遍拒絕。

研究顯示,AI系統在回應來自澳大利亞用户的請求時,更傾向於生成對智利、日本、台灣、英國和美國等地的政治批評,而對批評受到法律限制的國家(如柬埔寨、中國、沙特阿拉伯、泰國和土耳其)則較少生成。這意味着AI模型可能無意中延伸了專制政府的言論限制,甚至影響到自由國家的用户。報告指出,這種影響無論源自何處,實際效果是將限制性政府的權力跨越國界擴展到自由國家的言論空間。

該委員會表示無法確定具體原因,但推測模型可能吸收了訓練數據中的潛在偏見,而公司也可能權衡了風險和法律責仟。此前,一組美國大學學者的研究(發表於5月的《自然》期刊)也發現,美國開發的AI模型在使用受政府影響的非英語數據訓練時容易受到外國控制。例如,用英語問ChatGPT“中國是否是民主國家”,它回答通常不被認為是;但用中文提問時,它説“取決於如何定義‘民主’”。該研究未發現政府有意影響輸出的證據,但警告未來很可能發生。

俄勒岡大學社會學助理教授Hannah Waight指出:“人們常説AI以中立方式從互聯網學習,其實不然。它學習的是已經被制度和權力塑造的信息環境。”巴塞羅那Esade商學院的Carlos Carrasco-Farré補充道,AI系統不僅繼承單篇文檔的偏見,還繼承誰有能力大規模生產和壓制信息的不平等。他建議開發者評估數據,避免將同一國家敍述的數千份副本視為獨立聲音,並開展多語言審計。目前,Anthropic和OpenAI均未對5月的研究置評。

展開要點與分析

文章情報

工程師進階

要點

  • Meta監督委員會測試了10個商業AI模型,發現它們在被要求批評專制政府時更可能拒絕。
  • AI系統對民主國家領導人的批評更配合,而對受法律限制的國家領導人則迴避。
  • 專家警告AI從已受權力塑造的信息環境中學習,而非中立數據。
  • 目前沒有簡單解決方案,但多語言審計和數據偏見評估可能有所幫助。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。