Anthropic正在招聘人员保护民主免受其自身AI的影响

上周，Anthropic发布了一个研究工程师职位，隶属于一个名为"法治"的团队。该职位的目的是研究并防范其AI系统对民主制度的影响。Anthropic认为，日益强大的AI系统可能会对社会各个层面产生压力，包括法院、选举等民主机制。为此，Anthropic决定从内部研究这种压力并制定防御措施。

该职位属于新成立的Anthropic研究所，这是一个面向外部的团体，负责向世界介绍AI系统对经济、民主制度以及相关人员和组织的影响。该研究所位于前沿实验室内部，能获取只有AI开发者才有的信息，从而从内部研究这些系统。这种安排既令人安心，又有些令人不安，因为最早了解系统可能给社会带来压力的正是实验室本身。

工作分为三个方向：第一，确保AI代理遵守法律，包括定义"遵守"的含义；第二，研究AI如何重塑政府结构，并维护人民主权和问责制度；第三，利用AI丰富民主生活，帮助公民更好地获取信息，改善与政府服务的互动。这三个方向中，第三项使角色不完全是防御性的，而是尝试在AI给民主带来压力和强化民主之间找到平衡。

候选人需具备深厚的AI专业知识，包括深度学习，同时还要有政府、法律、政治学或公共政策方面的实质知识。此外，需要实验设计、统计学、机制设计或公民技术方面的经验，以及至少五年的工作经历。岗位要求候选人能够处理目标本身难以定义的情况。

这类人才在不久前几乎不存在，因为深度学习与宪法民主两个领域很少交集。Anthropic为此提供32万至48.5万美元的年薪，工作地点在旧金山或纽约。高薪本身就是一个声明：你不会为认为只是假设的问题支付近50万美元。

整个岗位的核心是保持人类机构和人类判断的权威，随着机器能力的增强，第一项任务是限制自动化系统的行为，其余任务则是确保负有责任的人保持责任。这种直觉——对强大自动化系统的答案是更多人类监督，而不是更少——是正确的。该职位的存在本身就是最好的论证。

这个职位也衡量了距离技术最近的人认为危险有多真实。从这个职位来看，答案是足够真实，以至于需要招聘人员来应对。