計算與人工智能中至關重要的人的因素

4月30日，MIT施瓦茨曼計算機學院的社會與倫理責任計算倡議（SERC）舉辦了一場為期一天的研究研討會，審視人工智能如何塑造世界及其對社會的影響。會議包括最新種子基金獲得者的研究報告（如空氣污染預測和負責任的計算機視覺部署）、關於AI對齊和AI教育的專題討論，以及康奈爾大學計算機與信息科學教授喬恩·克萊因伯格的主題演講。此外，還有SERC學者展示其研究項目的海報環節。

“MIT正在進行大量令人驚歎的研究，探索AI和計算機如何成為造福人類的善的力量。看到社區對前沿工作的如此熱情，令人鼓舞，”SERC聯合副院長、哲學教授布萊恩·海登表示。SERC聯合副院長、J.C. Penney管理教授尼科斯·特里卡奇斯補充道：“隨着計算和AI幾乎嵌入社會的每個維度，SERC的使命是確保倫理反思與技術發展齊頭並進。今年的研討會展示了MIT跨學科的卓越工作，併為社區深入探討塑造計算未來所應承擔的責任提供了論壇。”

在關於AI對齊的專題討論中，麻省理工學院電氣工程與計算機科學系副教授迪倫·哈德菲爾德-梅內爾主持了一場跨學科小組討論。Google DeepMind研究科學家伊亞森·加布裏埃爾以法官為例説明：“我們希望法官有良好品格，但仍能解釋規則。對於AI，不應將其建模為完美。AI應該按照指令行動，同時運用其‘品格’依據我們的道德價值觀進行解釋。”政治學助理教授貝利·弗拉尼根則認為，AI對齊最重要的問題是解決“誰有權首先治理不同類型的AI系統”。政治學副教授貝爾納多·扎卡指出，鑑於AI的快速發展，“最緊迫的問題之一是理解我們正在取代的系統中藴含的智慧，以及它們為何如此運作。”儘管部署壓力日益增加，但小組成員總體上對AI對齊的軌跡持樂觀態度，強調人類在塑造這些系統中的關鍵作用。

在教育領域，MIT教授與Gemini for Education主任瑪塔·麥卡利斯特探討了AI在課堂中的倫理使用。MIT臨時委員會聯席主席埃裏克·克洛普弗和塞繆爾·馬登教授聚焦於一個核心困境：AI是被用於“卸載”工作，還是幫助構建概念理解。馬登強調了“認知掙扎”過程——通過反覆嘗試和失敗學習。他指出：“現在學生遇到困難時，第一反應是求助AI。他們沒有真正掌握要評估的技能。”克洛普弗建議審視整個課程：“一些核心內容必須刪除。我們一直在添加，卻沒有解析或修剪。”主持人賈斯汀·賴希指出，雖然青少年知道AI不好，但這並未阻止他們使用。邀請學生參與AI實施討論，進行反思性交流，能讓他們更好地選擇為何及如何使用這些工具。媒體藝術與科學教授帕特·帕塔拉努塔波恩表示：“AI不是單一的東西。它可以且應該被設計得不同，以促進創造力和批判性思維。我們測量什麼、如何測量，不應只看答案是否正確。”

克萊因伯格的主題演講《AI的世界模型，與我們的世界模型》通過象棋和電影《指環王》的類比，評估了AI系統因其模型與人類模型不匹配而無意中導致失敗的情況。現代象棋引擎在超人水平上運行，但人類無法理解其策略。當引擎將回合交給人類時，人類難以跟上引擎的預測模式。克萊因伯格解釋道：“人類-算法團隊的危險在於，當人類接手時，算法知道下一步要做什麼，但人類不知道。”這些類比展示了AI通過預測模擬、模式識別和約束來理解世界，與人類固有的具身知識之間的差異。但問題仍然存在：如果遊戲最終將死，這些差異真的重要嗎？