治理可以防止AI破壞民主，但前提是它要有牙齒

聯合國將於7月6日至7日在日內瓦召開全球人工智慧治理對話，這次會議的重點是如何在AI治理中錨定權利，特別是表達自由和資訊獲取權。生成式AI系統正在日益成為我們日常獲取資訊的媒介，對它們的治理將直接影響人們能夠說什麼、尋求什麼和知道什麼。因此，這次對話的成果至關重要。

然而，作者對會議的實際效果持謹慎態度。他指出，雖然聯合國教科文組織（UNESCO）此前曾建議禁止將AI用於社會評分或大規模監控，並要求成員國在AI生命週期中尊重權利，但這些建議並未得到有效執行。事實上，無論是美國還是中國，在AI應用中都存在隱私侵犯和社會監控的問題。例如，美國政府利用AI進行移民拘留和警務監控，而中國的社會信用體系則備受爭議。作者諷刺地說：“任務完成了！”

作者強調，這些會議雖然重要，但必須清醒地認識到，除非主要國家將這些建議寫入法律並堅決執行，否則它們幾乎不可能被遵循。AI供應商需要全球市場，而全球市場並不依賴於任何單一的供應商。因此，各國政府擁有強大的議價能力，應該加以利用。例如，如果歐盟或日本等主要經濟體要求AI系統必須透明和可審計，供應商將不得不遵守，否則將失去巨大的市場。

此外，文章指出，AI系統本質上是黑箱，這給政府或其他權力實體提供了暗中調整輸出以滿足自身議程的機會。為了防止這種情況，必須要求AI系統完全透明和可審計。作者擔心，如果AI被錯誤地使用，它可能被用於鞏固集權和不民主的權力。理想情況下，聯合國應對不遵守透明度規則的國家實施制裁，但聯合國的歷史記錄在這方面並不令人鼓舞。

最後，作者批評了“AI是未來資訊科技”的敘事，認為這種觀點可能導致國家盲目擁抱AI而忽略風險。事實上，AI雖然會改變某些行業，如軟體工程，但並不是國家轉型的唯一關鍵。AI供應商需要全球市場超過全球市場需要AI，因此各國政府應認識到自身的力量，並負責任地行使它。

作者呼籲，在AI治理中，我們不僅要關注政府的影響，也要警惕富有的私人實體。因為AI是一個黑箱系統，任何有權力的行為體都可能透過隱蔽調整輸出來服務自身利益。因此，必須建立全面的透明度和可審計性要求。同時，國際組織如聯合國應果斷對違反規則的國家實施制裁，儘管歷史上聯合國在這方面的執行力有限。總之，AI治理不能僅依賴自願準則，而需要強有力的法律框架和執行力。