五角大樓與OpenAI的驚人交易解讀

上週，OpenAI宣佈與五角大樓達成一項協議，承諾其AI模型不會用於全自動武器或對美國人的大規模監控。然而，這一訊息在AI界引發爭議，批評者指出協議中的措辭模糊，可能為政府濫用留下空間。與此同時，競爭對手Anthropic因拒絕類似條款而遭到特朗普政府的威脅。

Anthropic與五角大樓的談判破裂國防部長皮特·赫格塞斯曾要求Anthropic刪除禁止將Claude用於大規模監控和全自動武器的合同條款，否則將將其列為供應鏈風險。特朗普隨後在社交媒體上抨擊Anthropic，並指示所有聯邦機構停止使用其技術。赫格塞斯隨後宣佈Anthropic為供應鏈風險，但法律專家質疑其法律依據。

OpenAI的協議被認為缺乏實質性約束OpenAI的協議提到將遵守第四修正案、國家安全法等，但批評者指出，這些法律在斯諾登事件前就已存在，卻未能阻止政府大規模收集美國人電話記錄。協議中的“不受約束的監控”等措辭可能被政府利用，例如購買商業位置資料。

歷史先例引發信任危機2013年斯諾登事件揭示了政府的大規模監控計劃，儘管當時法律允許此類行為。OpenAI的國家安全負責人卡特里娜·穆里根曾參與回應斯諾登事件，她對五角大樓的信任受到質疑。專家認為，即使有合同條款，政府仍可能透過分割工作或利用開源模型規避限制。

全自動武器問題短期內影響有限盡管協議禁止AI用於全自動武器，但目前前沿模型尚不適合此類任務。未來隨著技術發展，國會需要制定法律來防止濫用。Anthropic CEO阿莫迪也承認，合同只是權宜之計，最終需要國會介入。

總之，OpenAI與五角大樓的交易引發了關於AI倫理和政府權力的廣泛討論。短期內，合同可能無法有效約束政府，而長期解決方案需要立法機構介入。

此外，Anthropic的強硬立場贏得了讚賞，但實際效果有限。國防部已與xAI達成類似協議，且開源模型已足以支援許多監控活動。阿莫迪強調，只有國會的立法才能從根本上防止AI濫用。因此，這場博弈的最大意義可能在於引發公眾和立法者對AI危險應用的關注。