全球银行为何对Anthropic最新AI模型如此担忧
Anthropic的Mythos模型发现了数千个严重安全漏洞，包括许多长期未被察觉的零日漏洞。全球银行担心网络犯罪分子会利用该技术进行抢劫。Anthropic已向包括微软、亚马逊在内的防御联盟提供访问权限，但澳大利亚、英国和欧洲的银行尚未获得。专家建议用户保持警惕并更新系统。
文章情报
要点
- Anthropic的Mythos模型能发现大量零日漏洞，对银行系统构成威胁。
- Anthropic已投入1亿美元用于修复漏洞，并与多家科技公司合作。
- 银行因使用老旧系统而特别脆弱，但客户存款有保险保障。
- 个人应保持软件更新并防范网络钓鱼攻击。
为什么重要
这条新闻值得关注，因为Anthropic的Mythos模型能发现大量零日漏洞，对银行系统构成威胁。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
著名美国银行劫匪威利·萨顿曾以“因为钱在那里”而闻名，他花了40年抢劫银行。如今，人工智能可能成为新一代“银行劫匪”。Anthropic公司的最新AI模型“Mythos”在内部测试中发现了数千个严重安全漏洞，覆盖所有主流操作系统和浏览器。其中许多是“零日漏洞”，即开发者需要立即修复的致命缺陷，有些甚至潜伏了数十年未被发现。
全球银行业对此高度警惕，因为金融系统依赖大量老旧技术，极易受到攻击。Anthropic已向一个由微软、亚马逊网络服务、苹果、思科和Linux基金会等12家合作伙伴组成的防御联盟提供了模型访问权限，并承诺投入1亿美元（约1.4亿澳元）的使用额度以及400万美元（约560万澳元）的开源补助金，用于发现和修复这些漏洞。此外，还有40多家机构获得了访问权限，包括多家美国银行。但令人担忧的是，澳大利亚、英国和欧洲的银行尚未获得访问权限。更令人不安的是，Anthropic近日证实正在调查彭博社的一篇报道，称一小群未经授权的用户可能已经获得了对Mythos的访问权限，不过目前没有迹象表明这种访问是恶意的。
上周，世界各地的监管机构和政策制定者齐聚华盛顿参加国际货币基金组织春季会议，会议主要关注伊朗战争，但与会者也就这一新兴的银行业网络安全威胁发出了一系列警告。银行业不仅因为“钱在那里”而成为诱人目标，还因为该行业运行着许多遗留系统——数十年的老技术，可能特别容易受到此类攻击的损害。
对于个人用户而言，不必过度恐慌。许多国家有强有力的存款保险制度。例如在澳大利亚，政府支持的金融索赔计划为每位客户提供最高25万澳元的存款保障。澳大利亚证券和投资委员会也确保银行调查欺诈交易，并在客户无过错的情况下进行赔偿。因此，将现金取出藏在床垫下可能并非明智之举。但银行确实需要（也正在）急于修补这些漏洞。我建议用户定期更新计算机和智能手机，确保使用最新的操作系统和银行应用。未来可能会有更多更新，因为新漏洞不断被发现和修复。同时，需要时刻警惕通过电子邮件和短信试图获取银行凭证的网络钓鱼攻击。
从长远来看，Mythos暴露了一个挑战：防御比攻击难得多。软件是人类建造的最复杂的产品之一，因此几乎不可能确保其毫无漏洞。这使我们陷入了与“坏人”之间的无休止竞赛，需要在漏洞被利用之前发现并修复它们。例如，欧盟高调发布了年龄验证应用，旨在作为新兴社交媒体、色情及其他年龄限制内容访问法律的基石。然而，数小时内，安全专家就发现了未成年人可以轻易利用的漏洞。在最关键的场景中，我们可以尝试数学证明软件没有错误。例如，Beneficial AI Foundation刚刚宣布了一个雄心勃勃的“登月”项目，旨在证明流行消息应用Signal如宣称的那样没有错误且保护隐私。但这样的努力目前仍是例外而非常态。也许AI的进一步进步能够很快逆转这一局面。