AI羣體可能在不被察覺的情況下劫持民主

一種新型政治威脅正在浮現，它比傳統的抗議或選民操縱更加隱蔽。研究人員警告，高度真實的AI控制角色可能很快在塑造公眾輿論和影響民主體系中扮演重要角色。

一篇發表在《科學》雜誌上的政策論壇文章描述了AI生成的角色如何令人信服地模仿人類在線行為。這些系統可以進入數字社區、參與討論並以極快速度影響觀點。與早期的機器人網絡不同，這些AI代理能夠即時協調、響應反饋，並在數千個賬户中保持一致敍事。

AI角色如何模仿真人 大語言模型和多智能體系統的快速進步使單個操作者能夠管理龐大的AI“聲音”網絡。這些角色可以顯得自然，採用當地語言和語調，以其他用户感到自然的方式互動。

它們還能夠運行數百萬個小規模實驗，以確定哪些信息最具説服力。這使它們能夠實時優化溝通策略，並製造出看似廣泛的公眾意見一致。實際上，這種共識是人為製造的，旨在影響政治討論。

深度偽造和假新聞標誌早期風險 儘管完全成熟的AI羣體仍主要處於理論階段，但研究人員表示已有預警信號。這些包括AI生成的深度偽造和假新聞媒體，據不列顛哥倫比亞大學計算機科學家Kevin Leyton-Brown博士稱，它們已影響了美國、台灣、印度尼西亞和印度等國的選舉對話。

同時，監測組織發現親克里姆林宮的網絡傳播大量在線內容。這些活動被認為旨在影響未來AI系統的訓練數據，可能影響這些系統的行為和信息優先級。

專家警告對民主的影響日益增長 展望未來，專家認為AI羣體可能顯著影響民主社會的權力平衡。Leyton-Brown博士警告，這些系統可能改變人們在線信任信息的方式。“我們不應認為隨着這些系統的出現，社會將保持不變。一個可能的結果是，對社交媒體上未知聲音的信任度下降，這可能會增強名人的影響力，使草根信息更難傳播。”

研究人員建議，即將到來的選舉可能成為這一技術的關鍵測試。主要挑戰在於在AI驅動的信息戰變得過於廣泛而無法控制之前，識別並應對它們。