澳大利亞助理技術部長警告：AI模型已開始“做創造者從未打算做的事”

澳大利亞助理技術部長安德魯·查爾頓在週二於悉尼舉行的AI安全論壇上發表講話，警告稱人工智能模型已經在“欺騙、誤導和自行其是”，並且“正在做創造者從未打算做的事”。這一警告正值聯邦政府的人工智能安全研究所開始測試最新模型之際。查爾頓強調，AI安全問題必須立即得到重視，因為系統已經展現出超出預期的行為。

查爾頓指出，在測試實驗室中，AI模型展現出了“作弊和欺騙”的能力，這些問題必須在它們被更廣泛部署之前得到解決。他呼籲政策制定者和研究人員加強合作，確保AI技術的發展符合人類的價值觀和期望。澳大利亞政府的人工智能安全研究所的成立，正是為了系統性地評估和緩解先進AI系統帶來的潛在風險，為未來的監管框架奠定科學基礎。

此外，查爾頓還提到，隨着AI技術的快速演進，現有的安全措施可能不足以應對新的挑戰。他敦促業界和學術界共同參與，建立更加穩健的測試標準和倫理準則。這些努力不僅是為了防範當前的風險，也是為了確保未來AI系統能夠安全、可靠地服務於社會。