曾因过于危险被禁！澳洲政府及企业获准使用“超级AI”（组图）

AI巨头Anthropic近日扩大了一款高级模型的访问权限，将澳洲纳入为数不多的使用方之列——这款模型此前因风险过高而未对外公开发布。

该模型名为Claude Mythos，目前正作为Project Glasswing的一部分，向15个国家的150家机构开放，其中包括澳洲政府及多家本地企业。

在AI大规模发布几乎每天都在上演的当下，这种有限且渐进的开放方式显得格外特别。但Mythos与大多数AI系统截然不同——它是一款专门用于扫描软件、定位关键漏洞的自动化工具。

这种受控开放是刻意为之。原因在于，发现计算机系统漏洞的能力，对于想要守护系统的人和想要入侵系统的人，同样有用。

然而，AI对网络安全的实际影响，远比表面看起来复杂得多。

Google DeepMind

发现数百个严重漏洞

初步测试显示，Mythos能够识别出多个全新的高风险漏洞。这些漏洞一旦未被修复，攻击者可轻易借此窃取数据或引发系统崩溃。

不过，这些数据需要结合背景来看。在Mythos标记出的23,000个漏洞中，仅6,200个被评为高风险，而经人类专家核实属实的又只有其中三分之二。

即便如此，所识别漏洞的性质与严重程度，仍让开发人员宣称，有了Mythos，“防御方终于有机会取得决定性胜利”。

这场战斗的价值极为巨大。

过去几年间，澳洲民众屡屡成为代价高昂的网络安全事件的受害者，涉事机构包括Optus、Medibank Private、墨尔本国际电影节（Melbourne International Film Festival）和Canvas。

这一系列攻击或许正是Australian Signals Directorate欢迎澳洲加入Project Glasswing的原因所在。尽管AI驱动的安全防护潜力巨大，但政府目前对Mythos的具体使用方式仍守口如瓶。

（图片来源：网络）

一旦落入错误之手，便极为危险

发现漏洞固然有用，但防御方还需要有能力对其作出响应。当Mythos这类工具产生大量误报，可能令准备不足的网络安全团队应接不暇时，这便成了一大隐患。

更令人担忧的是，尽管Mythos目前的访问受到严格管控，但类似工具被黑客用于攻击，或许只是时间问题。

风险并不止于AI发现漏洞这一层面。从更宏观的角度看，AI系统本身极易被欺骗或利用，且后果可能极具破坏性。

就在本周，黑客通过欺骗Meta旗下AI聊天机器人篡改账号资料，成功入侵了包括奥巴马（Barack Obama）在内的多个高知名度Instagram账号。

（图片来源：网络）

更令人不安的是，Instagram宣布已修复该漏洞后数小时内，又有账户遭到攻破的报道接踵而至。

去年一起被称为Echoleak的类似攻击揭示出，将Microsoft Copilot与电子邮件账户绑定潜藏着巨大风险。

攻击者只需向被Copilot监控的邮箱发送特制邮件，即可诱骗AI泄露大量私密和机密信息，而收件人根本无需打开邮件。我们早已不再生活在那个黑客必须说服用户点击恶意链接的时代——只要能说服读取邮件的AI做出危险举动，就已足够。

无论是Echoleak还是Instagram被黑事件，都清晰揭示出一个共同风险：随着越来越多的组织将关键功能与难以审计、易于被言语操控的AI系统深度绑定，潜在威胁正与日俱增。

（图片来源：网络）

新的平衡点

种种迹象表明，当前的网络安全格局或许正迈向一个新的平衡点——防御者与黑客双方竞相开发并利用强大的AI工具。

像Mythos这样的工具并非万能解药。它们固然为防御者提供了额外助力，但仍需专业人员来甄别真实漏洞与误报。

与此同时，AI时代的到来已从根本上改变了与网络安全疏失相关的风险等级。用户或服务提供商在任一设备上延迟一天更新软件，就意味着漏洞多暴露一天。

对网络安全团队而言，确保合规已是一项艰巨挑战；而当漏洞发现速度进一步加快时，压力只会更大。

大型组织虽是黑客的高价值目标，但凭借获取和部署Mythos等工具的雄厚资源，它们或许仍能保持相对安全。

相比之下，规模较小、资源有限的企业，既难以获取这些工具，也未必有能力应对接踵而来的海量安全更新。

一旦在这些更新上落后，小型企业所面临的风险将远超以往。

有资源与无资源之间的网络安全鸿沟，只会越来越深。弥合这一鸿沟，不仅是一项IT层面的挑战，更是一个事关所有人的公共安全议题。