文明所知的合規性,AI對齊卻已遺忘
本文提出一個框架,將人類文明通過內化、社會壓力、制度、市場和執法這五層實現的合規生態系統映射到AI對齊領域。當前AI對齊過度依賴制度和執法層面(如憲法AI和紅隊測試),而忽視了內化、社會壓力和市場機制等更豐富的層面。文章呼籲採用持續對齊而非靜態對齊的方法。
文明所知的合規性,AI對齊卻已遺忘
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。
本文提出一個框架,將人類文明通過內化、社會壓力、制度、市場和執法這五層實現的合規生態系統映射到AI對齊領域。當前AI對齊過度依賴制度和執法層面(如憲法AI和紅隊測試),而忽視了內化、社會壓力和市場機制等更豐富的層面。文章呼籲採用持續對齊而非靜態對齊的方法。
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。