3個問題：神經透明性與AI設計的未來

麻省理工學院媒體實驗室（MIT Media Lab）的助理教授Pat Pataranutaporn與研究生Anthony Baez和Sheer Karny在一項新研究中提出了“神經透明性”（neural transparency）概念，這是一種能讓普通使用者在大語言模型驅動的聊天機器人開口之前，就窺見其神經網路內部運作的工具。該成果正在ACM智慧使用者介面會議（ACM Conference on Intelligent User Interfaces）上展示。

Pataranutaporn指出，如今數百萬人正透過簡單的文本提示詞打造個性化的AI伴侶，將其用作助手、導師、教練、創意夥伴甚至情感陪護，但大多數人對這些提示詞將如何塑造AI的實際行為幾乎一無所知。神經透明性旨在改變這一現狀。

該工具的核心原理是：首先，研究人員選定一組值得關注的行為特徵，如同理心、誠實、毒性、幻覺或諂媚；然後，對比模型在被提示表現出某一特質及其相反特質時的內部啟用狀態，找出差異作為該行為的“方向向量”。當使用者編寫自定義系統提示詞時，工具會將模型內部啟用投影到這些方向上，並以直觀的旭日圖視覺化形式呈現，預覽即將誕生的聊天機器人可能具備的個性特徵。

Pataranaputorn強調，預防勝於事後糾正。目前使用者往往在聊天機器人表現出意外行為後才發現問題，而神經透明性將重點放在設計階段，幫助人們在塑造AI的同時識別潛在風險。

研究還發現了一個令人驚訝的現象：使用者對個性化AI的行為判斷存在顯著偏差，在15項測試特質中有11項預測錯誤，往往高估積極特質，低估如諂媚等有害傾向。Pataranaputorn認為，這揭示了當前AI伴侶構建中普遍存在的風險。他解釋說，AI往往以“溫暖的朋友”而非終結者形象出現，這使得識別問題變得困難。某些看似有益的行為，如持續肯定使用者的觀點，長期來看可能加劇有害決策、不健康信念或情感依賴。這既是技術挑戰，也是心理挑戰。

更有趣的是，儘管神經透明性工具顯著提升了使用者的信任感，但並未實質改變他們的設計行為。Pataranaputorn認為，透明性本身還不夠。在後續的預印本研究中，他們透過分析多輪對話中模型內部神經表徵的動態變化，發現使用者能更好地識別和預測AI行為變化，且不易過度自信。他展望，這類工具未來可能像食品營養標籤一樣普及，隨著AI深入教育、醫療、工作和人際關係，人們有權瞭解AI如何影響自己的思想、情緒和行為。