网络安全的缺失与人工智能治理
本文探讨了Mythos模型在网络安全领域的突破性能力及其对监管的影响。Mythos在自主网络攻击和防御方面表现出色，发现了大量漏洞，但同时也引发了关于AI安全治理和监管的紧迫讨论。文章还分析了美国政府内部关于AI模型访问控制的争论，以及全球对AI网络攻击威胁的担忧。
当前AI领域最引人注目的进展并非模型能力的提升，而是网络安全与AI治理之间的紧张关系。随着Mythos模型的发布，美国政府被迫承认灾难性风险的真实存在，并开始考虑监管前沿模型的发布。然而，商务部与情报机构之间关于谁应掌控最强模型的访问权产生了分歧。
Mythos的能力究竟有多强？多个报告显示，Mythos在METR评估中的50%成功率已超出可靠测量范围，而在80%成功率上表现出适度的超趋势增长。英国AISI的评估表明，Mythos Preview的最终版本相比早期版本有显著提升，这种持续改进在后台悄然进行。Palisade Research的自我复制基准测试显示，模型在攻击弱防御目标时实现了巨大飞跃，这警示人们：即便当前测试是受控的，未来恶意行为者也会利用类似能力。
在网络安全领域，Mythos展现了惊人的潜力。XBOW的测试指出，它在源代码审计方面极其强大，在漏洞验证上也有良好表现，但判断力仍显保守。英国AISI确认Mythos是首个完成其两个端到端网络范围的模型，包括此前无模型能解的“Cooling Tower”。Anthropic的Project Glasswing项目在短短几周内帮助合作伙伴发现了数千个高严重性漏洞，有时甚至相当于一年的发现量。Mozilla报告称，使用Mythos后，他们在四月份修复的安全漏洞比过去15个月的总和还多。
然而，这种能力也带来了严峻挑战。Palo Alto Networks指出，Mythos在三周内完成了相当于一年的渗透测试工作。Google发现有人利用AI开发的零日漏洞进行攻击。国际货币基金组织也加入了警告行列。尽管当前实际威胁仍以传统数据窃取和勒索为主，但专家认为这只是风暴前的平静。
在监管方面，德国要求访问Mythos，而美国政府似乎出于政治原因加以阻挠。与此同时，OpenAI推出了自己的网络安全项目Daybreak。作者强调，CAISI项目仅获1500万美元资金，严重不足，需要大幅增加投入。文章最后指出，对AI能力的怀疑本质上是对深度学习方向性发展的错误押注，而历史证明这种押注往往失败。