Anthropic、自社のAIから民主主義を守る人材を募集中

先週、Anthropicは「法治」と呼ばれるチームのリサーチエンジニア職を公開しました。この職種の目的は、自社のAIシステムが民主主義制度に与える潜在的な圧力を研究し、防御策を講じることです。Anthropicは、強力なAIシステムが裁判所や選挙など、民主主義の基本的な仕組みに影響を与える可能性があると考えています。そのため、Anthropicは内部からその圧力を研究し、防御策を開発することを決定しました。

この役割は新設されたAnthropic研究所内にあり、これは同社のAIシステムが経済、民主主義制度、およびそれらに関わる人々や組織にどのような影響を与えるかを外部に伝えることを任務とする対外向けグループです。この研究所はフロンティアラボの内部に位置し、AI開発者だけが持つ情報にアクセスできます。これにより、大学や監視機関のように外部から研究するのではなく、内部からシステムを研究します。このアプローチは、システムが社会に与える可能性のあるストレスを最も早く知るのはラボ自身であるという認識を示しています。

仕事は大きく3つの分野に分かれます。第一に、AIエージェントが実際に法律を遵守することを確保するための評価と微調整を行います。これには、"遵守"の意味を定義すること自体が難しいケースも含まれます。第二に、AIが政府の構造をどのように再形成するかを研究し、人民主権と説明責任のある政府を維持するよう努めます。第三に、AIを活用して民主的な生活を豊かにし、市民がより良い情報を持って熟考できるようにし、人々と政府サービスのインターフェースを円滑にします。

この第三の部分が、役割を単なる防御的なものにしない鍵であり、最も興味深い部分です。同じチームがAIが民主主義に圧力をかけることを懸念しつつも、AIが民主主義を強化できると信じています。通常、これらの2つの考えは異なる人々によって保持され、互いに相容れないことが多いですが、1つの職種にまとめることで、その緊張関係の中に最善の立場があるという賭けに出ています。

候補者には、深層学習に関する真の流暢さを含むAIの深い専門知識と、政府、法律、政治学、または公共政策に関する実質的な知識が求められます。また、実験計画や統計学の経験、メカニズムデザインやシビックテクノロジーに精通していること、そして少なくとも5年の実務経験が望ましいとされています。さらに、目標自体が定義しにくい状況でも対応できることが求められます。

このような人材はごく最近まで採用可能ではありませんでした。真剣な深層学習の実践者でありながら憲法民主主義について真剣に考える人物は、ほとんど矛盾していました。そのような教育を受けた人はほとんどおらず、両方を必要とする仕事もありませんでした。Anthropicは現在、サンフランシスコまたはニューヨークでのハイブリッド勤務に対して、年間32万ドルから48万5千ドルを支払う用意があります。この価格は、彼らが仮説的と考える問題に対して支払うものではありません。

全体を通して一つの糸が通っています。それは、機械がより高性能になるにつれて、人間の制度と人間の判断を主権的に保つ努力です。最初のタスクは文字通り自動化システムが何を許されるかを制限することであり、残りは責任を持つべき人々が責任を保持し続けることを確実にすることです。この直感、つまり強力な自動化システムへの答えはより少ない人間の監視ではなくより多いことであるという考えは、非常に正しいものです。そして、この求人が存在するという事実自体が、どんな議論よりも強力にそのケースを証明しています。

民主主義制度を先進的なAIから守るために作られた仕事は、一つの尺度でもあります。それは、テクノロジーに最も近い人々が危険の現実性をどれほど真剣に捉えているかを示しています。この求人を見る限り、その答えは採用するに値するほど現実的であるということです。