爱范儿
·
Anthropic的「奥本海默时刻」：最害怕 AI 的公司，正在造最危险的 AI
内容提要
Anthropic发布了强大的AI模型Claude Mythos，但未对外公开，因其可能带来严重的网络安全风险。Mythos能够发现长期未被察觉的漏洞并自主编写攻击代码，改变网络安全格局。尽管Anthropic强调负责任的AI开发，但其技术的潜在威胁仍令人担忧。
关键要点
-
Anthropic发布了强大的AI模型Claude Mythos，但未对外公开，因其可能带来严重的网络安全风险。
-
Mythos能够发现长期未被察觉的漏洞并自主编写攻击代码，改变网络安全格局。
-
Mythos能找到每个主流操作系统和浏览器中的零日漏洞，且这些漏洞之前从未被发现。
-
Mythos结合了推理和针对性实验的能力，首次实现了对漏洞的发现和利用。
-
AI正在改变网络安全的攻防格局，黑客使用AI加速攻击，防御方也需用AI回应。
-
Anthropic成立了Project Glasswing，旨在帮助防御方修复重要漏洞。
-
Anthropic在警告网络安全风险的同时，也展示了其模型的强大能力，建立了安全权威的地位。
-
网络安全的安全范式正在被重新定义，传统的安全依赖于人力和时间，而AI能迅速发现和利用漏洞。
延伸解读
AI对网络安全的影响
Anthropic的Claude Mythos模型展示了AI在网络安全领域的双重角色：既能发现漏洞，也能利用这些漏洞。随着AI技术的进步，传统的安全防护措施可能面临挑战，防御方需要迅速适应新的攻防格局。
零日漏洞的威胁
Mythos能够发现长期未被察觉的零日漏洞，这意味着许多依赖老旧代码的系统可能面临前所未有的风险。用户在使用这些系统时，需关注其安全性，尤其是那些广泛使用的基础设施，如FFmpeg等。
负责任的AI开发
尽管Anthropic强调负责任的AI开发，但其技术的潜在威胁仍然存在。公司在警告网络安全风险的同时，也在展示其模型的强大能力，这种矛盾的立场引发了对AI安全伦理的深思。
延伸问答
Claude Mythos模型的主要功能是什么？
Claude Mythos能够发现长期未被察觉的漏洞并自主编写攻击代码，改变网络安全格局。
为什么Anthropic决定不公开Claude Mythos？
因为Claude Mythos可能构成前所未有的网络安全风险。
Mythos如何改变网络安全的攻防格局？
黑客使用AI加速攻击，防御方也需用AI回应，导致传统安全依赖的模式被重新定义。
Anthropic成立Project Glasswing的目的是什么？
旨在帮助防御方修复重要漏洞，确保在类似能力的模型广泛可用之前保护关键基础设施。
Claude Mythos能发现哪些类型的漏洞？
Mythos能找到每个主流操作系统和浏览器中的零日漏洞，这些漏洞之前从未被发现。
AI在网络安全领域的应用有哪些潜在风险？
AI可能使得大规模网络攻击变得更加容易，传统的安全依赖于人力和时间的模式可能不再有效。
