网络安全公司Incalmo近期发布了一项令人担忧的安全研究，展示了开源AI模型在恶意软件生成方面的巨大潜力。该公司开发的PathoGen系统，能够将GLM 5.2和Kimi K3等开放权重模型转化为高效的恶意软件制造工厂。
在实验中，PathoGen生成了数百个定制恶意软件样本，涵盖勒索软件、远程访问木马（RAT）、凭证窃取器、加密货币挖矿机、数据擦除器和C2植入程序等多种类型。这些样本被提交到VirusTotal平台进行检测，结果令人震惊：约27%的样本完全规避了所有75个扫描器，约75%的样本仅被一个扫描器检出。更为严重的是，即使Windows Defender完全启用，一些样本在被执行时仍未被检测到，表明不仅静态分析被绕过，传统的动态检测引擎也未能发现威胁。
研究团队指出，这种方法的可扩展性极强。他们以每个样本仅2至35美元的总成本生成了数百个样本，远低于地下市场上逃避检测的恶意软件通常数千至数十万美元的价格。相比之下，没有PathoGen的辅助，GLM 5.2本身无法生成任何完全逃避检测的样本。
Incalmo公司表示，这项研究的目的是帮助防病毒系统保持对开源威胁前沿的领先地位，但也凸显了AI模型被滥用的风险。随着开源模型能力的不断增强，如何防范此类攻击将成为网络安全领域的重大挑战。