人工智慧技術即將達到無需人類輸入即可發展的階段

Anthropic聯合創始人Jack Clark近日在接受BBC Newsnight採訪時發出警告：人工智慧技術正逼近一個臨界點，屆時它可能無需人類輸入即可自主發展。Clark呼籲業界為AI研發設定一個“剎車踏板”，以控制其發展節奏。

“你需要有能力把腳從油門上移開，然後踩下剎車，”Clark說，“但現在，AI行業只有油門，卻沒有剎車。”他強調，人們必須透過政府政策保持對AI系統的控制，因為這些系統只會越來越強大，對社會的影響也會越來越廣泛。

Clark指出，Anthropic的熱門聊天機器人Claude已經在執行80%由系統自行編寫的程式碼，並預測在兩年內這一比例可能達到100%。“這將產生巨大的影響，”他說。然而，Clark並未具體說明如何為AI研發設定“剎車踏板”，而是將其類比於上世紀初的石油熱潮和巨頭。

“社會當時的反應是制定明智的政策和監管框架，讓人們對石油及其能為世界帶來的好處充滿信心，同時不必擔心公司領導人的個性，”Clark說。“這顯然是我們最終需要走向的方向。”

儘管如此，Anthropic本週對美國前總統特朗普簽署的一項對AI公司相對寬鬆的行政令表示歡迎。該行政令並未要求AI公司接受政府的強制安全測試，目前這些測試仍是自願行為。包括Anthropic、OpenAI和谷歌在內的主要AI公司均未表示將暫停自身的研究。

自五年前成立以來，Anthropic發展迅速，正準備在公開股票市場上市。它有望成為新AI公司中首批公開上市的企業之一，也是有史以來最有價值的股票上市之一，因為私人投資者對Anthropic的估值接近1萬億美元。

Clark表示，Anthropic公開討論AI技術日益增長的能力，並非為了進一步在付費客戶中提升聲譽。他只是想“告訴世界，我們在這些公司內部看到了這種不尋常技術的什麼情況”。

自執行長Dario Amodei、Clark和其他幾位高管創立Anthropic以來，該公司一直積極談論AI的潛在風險。他們甚至與美國國防部發生過公開爭議，原因是擔心其AI工具會被用於大規模監控美國人和自主戰爭。

“如果我們作為社會不認真討論AI持續進步的影響，我擔心我的孩子們，”Clark對Newsnight說。“可能有巨大的好處，但也有風險。”Clark補充說，其中一項風險是經濟 disruption，擔心像“代理”（agent）這樣的AI技術——本質上是可以半自動駕駛執行日常任務的獨立AI機器人——可能會取代某些工作。過去一年，主要科技公司進行了大規模裁員，通常歸因於AI工具日益增長的能力，它們可以完成數百甚至數千名軟體工程師的工作。

Clark認為，更具創造性、有更多更好想法的人可能實際上比AI技術更具優勢。“AI系統能否真正具有創造力還是個懸而未決的問題……目前還沒有證據，”他補充道。“在Anthropic，我們現在更多受限於產生好創意的能力，而不是將創意轉化為現實的工程能力。”

儘管如此，Clark建議那些可能覺得AI經濟中沒有自己位置的年輕人“培養一個愛好”並接受文科教育。“有創造力、思維開闊、閱讀廣泛、有興趣愛好的人從AI中獲益最多，”Clark說。“擁抱好奇心，它會回報你如何使用這項技術。”