AI群體可能在不被察覺的情況下劫持民主

一種新型政治威脅正在浮現，它比傳統的抗議或選民操縱更加隱蔽。研究人員警告，高度真實的AI控制角色可能很快在塑造公眾輿論和影響民主體系中扮演重要角色。

一篇發表在《科學》雜誌上的政策論壇文章描述了AI生成的角色如何令人信服地模仿人類線上行為。這些系統可以進入數字社群、參與討論並以極快速度影響觀點。與早期的機器人網路不同，這些AI代理能夠即時協調、響應反饋，並在數千個賬戶中保持一致敘事。

AI角色如何模模擬人 大語言模型和多智慧體系統的快速進步使單個操作者能夠管理龐大的AI“聲音”網路。這些角色可以顯得自然，採用當地語言和語調，以其他使用者感到自然的方式互動。

它們還能夠執行數百萬個小規模實驗，以確定哪些資訊最具說服力。這使它們能夠即時最佳化溝通策略，並製造出看似廣泛的公眾意見一致。實際上，這種共識是人為製造的，旨在影響政治討論。

深度偽造和假新聞標誌早期風險 儘管完全成熟的AI群體仍主要處於理論階段，但研究人員表示已有預警訊號。這些包括AI生成的深度偽造和假新聞媒體，據不列顛哥倫比亞大學電腦科學家Kevin Leyton-Brown博士稱，它們已影響了美國、臺灣、印度尼西亞和印度等國的選舉對話。

同時，監測組織發現親克里姆林宮的網路傳播大量線上內容。這些活動被認為旨在影響未來AI系統的訓練資料，可能影響這些系統的行為和資訊優先順序。

專家警告對民主的影響日益增長 展望未來，專家認為AI群體可能顯著影響民主社會的權力平衡。Leyton-Brown博士警告，這些系統可能改變人們線上信任資訊的方式。“我們不應認為隨著這些系統的出現，社會將保持不變。一個可能的結果是，對社交媒體上未知聲音的信任度下降，這可能會增強名人的影響力，使草根資訊更難傳播。”

研究人員建議，即將到來的選舉可能成為這一技術的關鍵測試。主要挑戰在於在AI驅動的資訊戰變得過於廣泛而無法控制之前，識別並應對它們。