AI与网络安全未来：开放性为何重要

AI与网络安全未来：开放性为何重要

继Mythos和Project Glasswing宣布后，全球各机构正面临网络安全新时代的潜在到来。本文剖析当前形势，讨论开放性的作用，并将网络安全未来置于更广阔的AI生态中。

Mythos是什么？

Mythos是一款“前沿AI模型”，一种能够处理软件代码（及其他众多任务）的大型语言模型（LLM）。这顺应了LLM在代码相关任务上性能激增的总体趋势。Mythos的特别之处在于其嵌入的系统：正是系统而非模型本身，使其能快速发现并修补软件漏洞。理解这一区别对把握AI网络安全现状至关重要。

Mythos表明以下系统配方是有效的：充足算力、基于海量软件数据训练的模型、用于探测和修补漏洞的框架、速度（由算力和资本支撑）以及一定程度的自主性。这些要素共同作用，可以发现漏洞、找到利用途径并构建补丁。无论收益还是风险，都蕴含于此配方中，而非单个模型。

其他机构可以构建类似的系统。将较小模型嵌入深度安全专业知识的系统，可能以更低成本产生类似结果，这对防御方尤其有前景。AI网络安全能力是锯齿状的：它不随模型规模或通用基准性能平滑扩展。模型所嵌入的系统至关重要。

Mythos证明了构建能发现并处理软件漏洞的AI系统是可行的。我们已知其可能性，且相关工作日益增多，但我们刚刚开始探索其在自主AI（能快速自主行动的AI系统）背景下的意义。

开放性如何成为结构性优势

随着识别漏洞的自主系统激增（必然趋势），开放代码和工具可帮助平衡竞争。软件安全已成为跨越检测、验证、协调和补丁传播四个阶段的竞速赛。开放生态系统将这些步骤分布于社区，而封闭项目将四个阶段集中于单一供应商，形成单点失败——只有一家组织能查看和修复代码。开放开发的分布式结构对此具有鲁棒性，在拥有专业安全人员的社区（如Linux内核安全团队、开源安全基金会及Hugging Face模型供应链安全团队）中尤其强大。

主张封闭系统者常提及专有模糊性——系统底层代码不可访问。不幸的是，其保护作用不如以往。AI系统日益擅长逆向工程剥离二进制文件，而大多传统固件和嵌入式代码是封闭的、仅含二进制且不再维护。这些代码构成巨大攻击面，且随着AI工具改进而变得可解读和可访问。

AI在封闭代码库内使用也存在风险。当公司采用AI编码工具时，若激励机制错误（例如按功能数量而非代码质量评估工程师），AI加速开发可能比传统开发引入更多漏洞。这些漏洞位于封闭代码库中，仅一家组织可发现和修复，而AI增强的攻击者从外部发现它们的能力日益增强。更多漏洞更快产生、且局限于单一组织防火墙后——正是开放生态系统所能避免的不平衡。

这一切的基础是攻击者与防御者之间的能力不对称。开放模型和工具通过赋予防御者与攻击者相同类别的能力（否则这些能力集中于少数资源丰富的实体）来缩小差距。

以开放工具和半自主代理构建防御

网络安全防御正是开源与AI代理可以协同发挥作用的关键领域。根据系统卡，Mythos似乎能近乎完全自主运行，但我们基于潜在失控风险而持反对态度。半自主AI代理（其行动类型预设、某些步骤需人工审批）则处于效益与风险的平衡点。在半自主系统中，人保持控制，AI代理负责特定子任务。这可通过运行于组织内部、指定允许工具、技能和系统权限的开放代码实现。如此，AI代理可用于防御，在组织自身控制下发现漏洞并协助修补。

半自主方法依赖于人类能够理解AI代理的行为及原因。若系统基于开放组件（如开放代理框架、开放规则引擎、可审计决策日志和追踪），则比黑箱方式远为可能。“人在环路”只有在人能观察环路时才有意义。

公司无需从零构建这些能力。开源安全工具生态丰富，包括漏洞扫描器、入侵检测系统、日志分析器和模糊测试框架，可与AI代理集成。

为何这对高风险组织尤为关键

对于高风险组织，从开放、可审计的基础出发，意味着安全团队可以实际检查监控机制，而非信任单一供应商的声明。这尤其涉及敏感数据和过程时——敏感材料通常不应流经外部AI提供商。开放系统可由内部安全专家严格分析、基于组织自身安全数据进行微调、修改以产生特定组织的监督机制，并在完全于组织内基础设施中运行，一切置于适当防火墙后。

前进之路

攻击者将开发利用漏洞的模型。重要的应对策略是拥抱透明实践：开放安全审查、发布威胁模型、共享漏洞数据库以及任何团队均可采用的开放工具。各组织以专有工具孤立保护自身的方案，无法应对正于自身社区内协调并分享技术的攻击者。

未来AI网络安全更多由围绕模型构建的生态系统塑造，而非单一模型。开放性为防御者提供了可见性、控制力、社区及共享基础设施，以保持领先。