跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

僅靠監管就能阻止AI系統奪走我們的生命嗎?| 讀者來信

文章摘要

馬丁·托馬斯在讀者來信中質疑:面對又一次因未透過安全測試而被撤回的前沿AI模型,僅憑“獨立監督與監管”是否真的足夠。他指出,航空、核電等安全關鍵軟體領域早已形成以“安全論證”為核心的工程監管傳統,而AI領域至今無人說明監管者究竟應依據何種證據判定一個AI系統足夠安全。

來源The Guardian AI作者: Guardian Staff
僅靠監管就能阻止AI系統奪走我們的生命嗎?| 讀者來信
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

馬丁·托馬斯在來信中提出一個尖銳的問題:任何理性的人,如何能斷言獨立監督與監管就足以應對AI帶來的風險?

觸發這一質疑的,是又一次前沿AI模型被撤回的事件。該模型因為未能透過安全測試而被取消釋出(據9月28日報道,OpenAI因內部測試中的安全顧慮而放棄釋出一款新模型)。與以往一樣,隨之而來的是關於“獨立監督與監管”的呼籲,但托馬斯指出,這些呼籲從未解釋監管具體將如何運作,更沒有回答最關鍵的問題:什麼樣的證據才應當說服監管者,認定某個AI系統已經足夠安全。

托馬斯援引工程界的既有傳統作為對照。長期以來,安全關鍵軟體系統——例如控制飛機或核電站的系統——一直處於嚴格的監管框架之下。相關國際標準要求提交所謂的“安全論證”:這是一套嚴謹的分析,用以表明所有可能出現的危害都已被識別並得到控制,而且發生事故的機率被壓至極低水平。

在他看來,這正是當前AI安全辯論中缺失的一環。僅僅重複呼籲開展獨立監督和監管,並不能替代對安全證據標準的明確界定。若不能說明監管者應當看到什麼、依據什麼作出判斷,那麼再多的監管口號也難以真正保證AI系統的安全性。

展開要點與分析

文章情報

工程師中級

要點

  • 前沿AI模型再次因未透過內部安全測試而被撤回,引發慣常的“獨立監督與監管”呼聲。
  • 來信者指出,這些呼聲從未說明監管將如何運作,也未說明何種證據能說服監管者認定AI系統足夠安全。
  • 航空、核電等安全關鍵軟體已有成熟監管傳統,國際標準要求提交嚴格的“安全論證”。
  • 安全論證需證明已識別並控制可能危害,且事故機率極低。

技術影響

可能影響合規要求、模型釋出節奏、資料治理和企業採購。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。