本文にスキップ
AI News HubLIVE
その他
要約のみ

文明が知っているコンプライアンス — AIアライメントが忘れてしまったもの

本稿は、人類文明の多層的なコンプライアンス生態系(内面化、社会的圧力、制度的、市場、執行)をAIアライメントにマッピングする枠組みを提示する。現在のアライメントは制度的および執行レイヤーに過剰投資しており、内面化された規範や社会的圧力、市場インセンティブといったより豊かでスケーラブルなメカニズムを無視している。継続的アライメントへの移行を提唱する。

ソースHacker News AI著者: gagan2020
文明が知っているコンプライアンス — AIアライメントが忘れてしまったもの
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 人間のコンプライアンスシステムは、内面化、社会的圧力、制度、市場、執行の5層で構成され、互いに補完し合うことで回復力を生み出す。
  • 現在のAIアライメントは、制度的(憲法AI)と執行(フィルター、レッドチーミング)の層に集中し、聖書と警察だけの社会に似ている。
  • 欠落している要素:長期的道徳的記憶、評判市場、相互利害、修復的修正ループ、意図的な物語カリキュラム。
  • 静的なエピソード訓練から継続的アライメントへの転換が必要。人間社会が説教、祭り、物語で規範を強化し続けるように。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。