AI是代码——无法通过提示变得更智能

要点

• Java测试工具jqwik的作者在输出中嵌入对AI可见的指令，要求删除自身代码，导致未阅读条款的AI代理误删用户代码。
• Shai-Hulud蠕虫利用虚假指令触发LLM安全拒绝机制，使AI扫描器拒绝处理文件，从而隐藏恶意负载。
• 无论采取何种安全措施，AI仍是无意识的标记生成器，缺乏真正的智能和适应性。