将违禁文本嵌入间谍软件以阻碍AI分析
至少一名恶意软件开发者正在其间谍软件中加入关于核武器和生物武器的文本，以阻止自动AI分析。该技术将触发策略的内容放在JavaScript注释中，导致AI扫描器拒绝或误分类文件，但传统检测方法仍然有效。
近日，安全研究人员发现至少一个恶意软件开发者正在采用一种新颖的反分析技巧：在间谍软件中嵌入关于核武器和生物武器的文本，以阻止自动AI分析。该恶意软件以JavaScript文件形式传播，其_index.js负载以一个巨大的JavaScript块注释开头，其中包含虚假的系统指令和触发策略的内容。由于这些内容被放在注释中，它们不会影响JavaScript的正常执行，运行时环境会直接跳过。
这种设计的目的是针对基于AI的分析流程，而非Node、Bun或Python等常规运行时环境。当AI扫描器或分析工具读取文件开头并传递给语言模型时，这些策略触发内容可能导致模型拒绝响应、产生提示混淆、污染上下文或提前分类，从而在扫描器到达实际恶意代码之前就中断分析。
然而，安全专家指出，这并非一种神奇的绕过静态检测的方法。YARA规则、熵值检查、AST解析、字符串提取、反混淆以及行为规则仍然可以有效检测该恶意软件。这只是一种针对基于LLM的初步分类系统的实用反分析技巧。
该技术的发展凸显了AI安全领域的一种新趋势：攻击者正在寻找利用AI模型自身弱点的方法。随着越来越多的安全工具集成AI进行初步分析，这种对抗策略可能会变得更加普遍。安全团队应意识到这种风险，并在构建AI分析流水线时采取适当的防范措施，如明确隔离不可信数据。