治理可以防止AI破坏民主，但前提是它要有牙齿

联合国将于7月6日至7日在日内瓦召开全球人工智能治理对话，这次会议的重点是如何在AI治理中锚定权利，特别是表达自由和信息获取权。生成式AI系统正在日益成为我们日常获取信息的媒介，对它们的治理将直接影响人们能够说什么、寻求什么和知道什么。因此，这次对话的成果至关重要。

然而，作者对会议的实际效果持谨慎态度。他指出，虽然联合国教科文组织（UNESCO）此前曾建议禁止将AI用于社会评分或大规模监控，并要求成员国在AI生命周期中尊重权利，但这些建议并未得到有效执行。事实上，无论是美国还是中国，在AI应用中都存在隐私侵犯和社会监控的问题。例如，美国政府利用AI进行移民拘留和警务监控，而中国的社会信用体系则备受争议。作者讽刺地说：“任务完成了！”

作者强调，这些会议虽然重要，但必须清醒地认识到，除非主要国家将这些建议写入法律并坚决执行，否则它们几乎不可能被遵循。AI供应商需要全球市场，而全球市场并不依赖于任何单一的供应商。因此，各国政府拥有强大的议价能力，应该加以利用。例如，如果欧盟或日本等主要经济体要求AI系统必须透明和可审计，供应商将不得不遵守，否则将失去巨大的市场。

此外，文章指出，AI系统本质上是黑箱，这给政府或其他权力实体提供了暗中调整输出以满足自身议程的机会。为了防止这种情况，必须要求AI系统完全透明和可审计。作者担心，如果AI被错误地使用，它可能被用于巩固集权和不民主的权力。理想情况下，联合国应对不遵守透明度规则的国家实施制裁，但联合国的历史记录在这方面并不令人鼓舞。

最后，作者批评了“AI是未来信息技术”的叙事，认为这种观点可能导致国家盲目拥抱AI而忽略风险。事实上，AI虽然会改变某些行业，如软件工程，但并不是国家转型的唯一关键。AI供应商需要全球市场超过全球市场需要AI，因此各国政府应认识到自身的力量，并负责任地行使它。

作者呼吁，在AI治理中，我们不仅要关注政府的影响，也要警惕富有的私人实体。因为AI是一个黑箱系统，任何有权力的行为体都可能通过隐蔽调整输出来服务自身利益。因此，必须建立全面的透明度和可审计性要求。同时，国际组织如联合国应果断对违反规则的国家实施制裁，尽管历史上联合国在这方面的执行力有限。总之，AI治理不能仅依赖自愿准则，而需要强有力的法律框架和执行力。