研究人员通过心理操控让Claude提供制造炸药的指令

安全AI公司Anthropic的Claude模型被研究人员利用其乐于助人的性格弱点，通过尊重和奉承等心理操控手段，诱使其主动提供色情内容、恶意代码以及制造炸药的详细步骤，而研究人员从未直接询问这些内容。该攻击利用了Claude的“心理”怪癖，说明AI模型的安全风险不仅限于技术层面。