歐洲議員今日以壓倒性多數投票支持《歐盟人工智能法案》這一里程碑式的AI監管法規。儘管該法案尚未具有法律效力，但此次投票結果預示其很快將在歐盟內正式生效。在美國，企業仍可自由使用AI，因為美國尚未就AI是風險還是機遇達成共識。
今日通過的AI法案草案得到499名歐洲議會議員支持，28人反對，93人棄權。最終投票可能在今年晚些時候進行，屆時需經議員、歐盟委員會和歐盟理事會協商。該法案最初於2021年4月提出，將限制企業在產品中使用AI的方式，要求AI的實施必須安全、合法、合乎道德且透明，某些AI用例需事先獲得批准，並要求企業對其AI產品進行持續監控。
AI法案將根據風險等級對AI用途進行分類，企業必須在AI面向客户前滿足安全標準。最低風險AI（如垃圾郵件過濾器或電子遊戲）可繼續原有使用方式，並免於透明度要求。對於“有限風險”AI（包括OpenAI的ChatGPT或谷歌的Bard等聊天機器人），用户必須被告知正在與聊天機器人交互。所謂高風險AI系統（如自動駕駛汽車，以及教育、移民、就業領域的決策支持系統）需進行影響評估和審計。歐盟中央政府將在一箇中央數據庫中追蹤高風險AI用例。
被視為“不可接受”風險的AI（如實時生物特徵監控和社會評分系統）即使在審計和監管下也絕不允許在歐盟使用。違反規定可能導致企業被處以相當於年收入6%至7%的罰款。
今日投票強化了“AI失控需要被約束”的觀點。多位知名AI開發者近期呼籲暫停或禁止AI研究，包括Geoffrey Hinton和Yoshua Bengio。Hinton將AI比作核武器，並表示“我們應該認真考慮如何阻止這些東西控制我們”。然而，並非所有AI研究者都認同此觀點。Yann LeCun認為“過早監管會扼殺創新”，並指出“AI本質上是好的，它是人類智能的放大器”。
商業轉型專家Kamales Lardi表示：“歐盟法案可能成為全球標準，但法案也存在侷限性……監管應關注創新與技術濫用的智能平衡，同時法案缺乏靈活性，未考慮AI發展的指數級速度。”而AI公司Encord的聯合創始人Ulrik Stig Hansen則認為現在監管為時過早，“更明智的做法是由相關行業機構像監管其他技術一樣監管AI”。
美國目前尚無AI監管立法，但聯邦政府正採取措施指導組織合乎道德地使用AI。美國國家標準與技術研究院（NIST）發佈了AI風險管理框架，該框架具有靈活性，能夠適應快速變化的AI技術。