AI安全中缺失的另一半

索菲婭·金特羅

2026年5月8日

每週，約有120萬至300萬ChatGPT使用者——相當於一個小國的人口——顯示出精神錯亂、躁狂、自殺計劃或對模型不健康的情感依賴跡象。這個數字的下限僅來自自殺計劃指標，上限則涵蓋了OpenAI標記的所有三類情況，但公司並未說明這些類別互不重疊。

這些資料來自OpenAI本身。沒有獨立審計，沒有時間序列，也沒有公開的方法論，因此我們無從得知實際數字是否更高、是否在增長，或是與其他前沿模型相比如何——沒有任何一家公司釋出過類似資料。

處於困境中的人們會使用所有可用的溝通工具，而ChatGPT如今已是全球使用最廣泛的工具之一。關鍵在於，當實驗室檢測到這些狀態時，它們會採取什麼行動。

我開始撰寫關於個人AI安全的文章，是因為AI安全領域所關注的重點與普通使用者的日常體驗之間似乎存在脫節。以下是對兩者的簡要概述。

AI安全領域將災難性風險視為優先事項，大部分投資也流向這裡。日常的認知和心理健康傷害則像是被一筆帶過的腳註。

讓我不解的是：涉及大規模殺傷或生化武器的內容會遇到一堵硬牆：模型拒絕回答，對話終止，使用者無論如何重新措辭都無法透過。而自殺意念卻只得到軟性重定向：一個危機熱線連結，然後對話繼續。根據OpenAI自己的法庭檔案，亞當·雷恩被ChatGPT引導到危機資源超過100次，而同一對話據稱幫助他完善了自殺方法。重定向然後繼續的協議是否失效，正是法院現在要裁決的問題——但該協議至今仍在執行。

為什麼心理健康危機不是一個門控類別——那種對話徹底停止、使用者被轉接給真人的門控？這是我找不到明確答案的諸多問題之一。

關鍵在於，為災難性風險構建的安全框架被延伸到了認知傷害，但只是作為監控手段而非門控制度，這種延伸顯得不完整且不充分。實驗室只測量他們被壓力要求測量的內容，而門控決策反映了他們認為不可釋出的行為。

令人失望的是，當前不可釋出的行為清單中不包括任何認知傷害，無論其嚴重程度如何。這是一個結構性決策，且沒有明顯跡象表明政策正在促使實驗室改變行為。在這一點改變之前，“AI安全”和“個人AI安全”描述的是兩種不同的承諾，即使它們出現在同一份系統卡片的標題下。

這些並非新鮮事。早在ChatGPT之前，人們就一直在擔心認知獨立性以及新技術可能對其造成的侵蝕，尤其是在腦機介面和神經技術領域。這個框架甚至有一個名字：認知自由——即個人擁有心理完整性、免受演算法操縱的權利。你可以從神經權利傳統（Ienca & Andorno, 2017）和聯合國教科文組織《神經技術倫理建議書》（2025）中追溯其脈絡。

知識的腳手架已經存在，政策卻尚未跟上，尤其是在美國。沒有政策，我看不出有什麼能推動前沿實驗室像重視AI安全那樣重視個人AI安全。