“危险时刻”：Anthropic 首席执行官警告人工智能揭示软件缺陷带来的网络风险窗口

简要概述

• Anthropic 表示其人工智能已发现数万项软件漏洞。
• CEO Dario Amodei 警告称，修复这些漏洞的时间窗口为6到12个月。
• 批评者表示，即使安全问题日益严重，风险可能被夸大。

周二，Anthropic CEO Dario Amodei 与摩根大通CEO Jamie Dimon 就人工智能带来的日益增长的网络安全威胁进行了讨论，焦点在于AI识别漏洞的速度超过组织修复的能力。 在与Anthropic进军金融服务相关的近两个小时的活动中，Anthropic 展示了用于推介书、盈利审查和合规工作的AI代理，Amodei 表示，在类似能力变得更广泛可用之前，可能有六到十二个月的时间来解决公司 Mythos 模型发现的数万项缺陷。 “危险在于漏洞数量、入侵事件以及由勒索软件造成的财务损失会大幅增加，尤其是在学校、医院，更不用说银行了，”Amodei 说。

Amodei 的最新声明是在与 Mozilla 的早期测试之后发表的，当时 Mythos 的早期版本在一次扫描中识别出 Firefox 浏览器中的271个漏洞，显示了AI扫描大型代码库的速度远超人类研究人员。 
Anthropic 表示，该模型可以发现广泛使用的软件中数千个以前未知的弱点。许多漏洞尚未披露，因为它们尚未被修补，仍存在未解决的缺陷。 “如果我们宣布某些东西而没有修复，那么坏人就会利用它，”Amodei 说。

在受控测试中，Mythos 完成了多步骤的网络攻击模拟，没有人工干预，展示了从识别弱点到利用它们的能力。 Anthropic 已将该模型限制在少数合作伙伴中，作为“Glasswing 项目”的一部分，旨在在类似工具广泛可用之前修复漏洞。 研究人员已展示，Mythos 的部分能力可以通过现有模型和开源技术复制，暗示类似工具可能比预期更快传播。 这些警告引发了行业内的怀疑。四月，OpenAI CEO Sam Altman 表示对 Mythos 的担忧可能被夸大，并暗示 Anthropic 正在使用“恐惧营销”来塑造风险并限制技术的访问。 “你可以用很多不同的方式为此辩护，其中一些是真实的，比如会出现合法的安全问题，”Altman 说。“但如果你想要的只是‘我们需要控制AI，只有我们， because we’re the trustworthy people’，我认为恐惧营销可能是最有效的方式来证明这一点。” 即使受到反对，尽管与 Anthropic 存在公开争执，据 Axios 报道，美国政府也在使用 Claude Mythos 扫描机密网络漏洞并测试其网络安全能力。Amodei 没有回应持续的法律争端，但他说 Anthropic “对这个国家有益”。 “我认为 Anthropic 的观点一直是一样的。关于政治化的问题，我之前提到过要简洁、系统化，并对所有人公平，”Amodei 说。“法律的目的以及不采取临时措施，是为了让所有公司——至少原则上，我知道实际操作会更复杂——都受到同样的对待，我们应该追求这一点，即使它永远不可能完美实现。”
Amodei 将这一时刻描述为一个狭窄的行动窗口，警告组织响应的速度可能决定风险是升级还是得到控制。

“这是一个危险时刻，如果我们正确应对，我认为我们已经迈出了第一步，那么在另一端我们可以拥有一个更美好的世界，”Amodei 说。“能找到的漏洞也就那么多。”