Claude Fable 5 将“尽快填充此缓冲区”视为网络攻击

要点

• Claude Fable 5 拒绝编写快速缓冲区填充函数，称其可能为网络攻击，但实际生成的代码内存安全性极差。
• 基准测试显示，添加“尽可能快”一句后，所有模型的内存安全违规平均增加一倍，主要是指针算术相关检查。
• C++29安全配置文件旨在禁止此类不安全模式，但模型在速度压力下倾向于放弃安全抽象。
• 问题根源不在于训练数据陈旧，而在于模型将“快速”等同于训练数据中的不安全模式。