与Irregular合作：领先一步
原文英文，约700词，阅读约需3分钟。
📝
内容提要
Irregular是一家前沿AI安全实验室，由Dan Lahav和Omer Nevo创立，与Anthropic、OpenAI等合作，提前评估并防御下一代AI威胁。其评估被GPT-4等系统卡引用，SOLVE框架获英国政府和Anthropic采用。团队已创收数百万美元，正制定安全标准，保护未来企业，推动AI安全、负责任发展。
🔎
延伸解读
评估为何重要
Irregular的评估被GPT-4、o3、o4 mini和5等系统卡引用，说明其测试结果已成为衡量前沿模型安全性的重要参考。这种第三方评估有助于在模型发布前发现潜在风险，为行业提供独立的安全视角。
SOLVE框架的采用
英国政府和Anthropic采用Irregular的SOLVE框架，包括用于审查Claude 4的风险。这表明该框架在评估AI风险方面具有实际价值，并可能成为政府和企业进行AI安全审查的参考工具。
安全市场的早期机遇
文章指出，除大型或云原生公司外，AI采用仍处于早期，安全市场也尚未成熟。这意味着Irregular等安全公司面临广阔的增长空间，其当前制定的标准和工具可能为未来企业安全奠定基础。
❓
Q&A
Irregular是一家什么样的公司？
Irregular是一家前沿AI安全实验室，由Dan Lahav和Omer Nevo创立，专注于评估和防御下一代AI威胁，与Anthropic、OpenAI、Google DeepMind等领先AI实验室合作。
Irregular如何与Anthropic、OpenAI等实验室合作？
Irregular直接嵌入这些前沿研究实验室，进行网络攻击性评估，并在模型发布前开发防御措施，从而提前发现潜在风险。
Irregular的SOLVE框架有什么用途？
SOLVE框架被英国政府和Anthropic采用，用于评估AI风险，例如在Claude 4中用于审查潜在风险。
🏷️
