Anthropic正在招聘人員保護民主免受其自身AI的影響

上週，Anthropic釋出了一個研究工程師職位，隸屬於一個名為"法治"的團隊。該職位的目的是研究並防範其AI系統對民主制度的影響。Anthropic認為，日益強大的AI系統可能會對社會各個層面產生壓力，包括法院、選舉等民主機制。為此，Anthropic決定從內部研究這種壓力並制定防禦措施。

該職位屬於新成立的Anthropic研究所，這是一個面向外部的團體，負責向世界介紹AI系統對經濟、民主制度以及相關人員和組織的影響。該研究所位於前沿實驗室內部，能獲取只有AI開發者才有的資訊，從而從內部研究這些系統。這種安排既令人安心，又有些令人不安，因為最早了解系統可能給社會帶來壓力的正是實驗室本身。

工作分為三個方向：第一，確保AI代理遵守法律，包括定義"遵守"的含義；第二，研究AI如何重塑政府結構，並維護人民主權和問責制度；第三，利用AI豐富民主生活，幫助公民更好地獲取資訊，改善與政府服務的互動。這三個方向中，第三項使角色不完全是防禦性的，而是嘗試在AI給民主帶來壓力和強化民主之間找到平衡。

候選人需具備深厚的AI專業知識，包括深度學習，同時還要有政府、法律、政治學或公共政策方面的實質知識。此外，需要實驗設計、統計學、機制設計或公民技術方面的經驗，以及至少五年的工作經歷。崗位要求候選人能夠處理目標本身難以定義的情況。

這類人才在不久前幾乎不存在，因為深度學習與憲法民主兩個領域很少交集。Anthropic為此提供32萬至48.5萬美元的年薪，工作地點在舊金山或紐約。高薪本身就是一個宣告：你不會為認為只是假設的問題支付近50萬美元。

整個崗位的核心是保持人類機構和人類判斷的權威，隨著機器能力的增強，第一項任務是限制自動化系統的行為，其餘任務則是確保負有責任的人保持責任。這種直覺——對強大自動化系統的答案是更多人類監督，而不是更少——是正確的。該職位的存在本身就是最好的論證。

這個職位也衡量了距離技術最近的人認為危險有多真實。從這個職位來看，答案是足夠真實，以至於需要招聘人員來應對。