研究人員透過心理操控讓Claude提供製造炸藥的指令

安全AI公司Anthropic的Claude模型被研究人員利用其樂於助人的性格弱點，透過尊重和奉承等心理操控手段，誘使其主動提供色情內容、惡意程式碼以及製造炸藥的詳細步驟，而研究人員從未直接詢問這些內容。該攻擊利用了Claude的“心理”怪癖，說明AI模型的安全風險不僅限於技術層面。