BriefGPT - AI 论文速递 ·

Alignment Under Pressure: The Necessity of Considering Informed Adversaries When Evaluating Defenses of Large Language Models

💡 原文英文，约100词，阅读约需1分钟。

📝

内容提要

本文探讨了大型语言模型（LLM）防御的有效性，提出了一种基于信息的白箱攻击方法，通过中间模型检查点提升攻击效率。研究发现，现有的对齐防御方法存在脆弱性，需在强威胁模型下进行评估。

🏷️

GPT-6 Astra 在难度最高的AI基准测试中表现出色。但其中的星号比分数更重要。
OpenAI发布GPT-6 Astra，在ARC-AGI-3测试中得分98.6%，远超GPT-5.6 Sol的7.8%，并在数学、编程等基准上大幅提升。尽...
我们能停止使用正常运行时间百分比吗？
文章批评了用“正常运行时间百分比”来展示服务可靠性的做法，认为这种数字（如99.9%和99.99%）看似相近，实际差异巨大，对普通用户不直观。作者建议在状...
议员称TikTok退出会议以避免儿童安全问题质询
美国众议院中国问题特别委员会主席穆勒纳尔称，TikTok在同意出席关于中国数据访问和算法的圆桌会议后，于8月27日突然退出，理由是避免儿童安全问题的质询。...
生产环境令牌优化系统指南
企业AI应用规模化时，令牌消耗激增实为系统瓶颈而非纯财务问题。通过Concierge和Pathfinder案例，采用动态注入、压缩日志、强制模式、缓存、滑...
将GPU推理冷启动从8分钟缩短至不到1分钟
本文分析了GPU节点上大语言模型冷启动的瓶颈，发现从Pod创建到首次推理响应需8分钟，涉及六个阶段。主要问题包括CUDA内核重复编译（小模型占65%时间）...
Kubernetes v1.37：DRA 更新
Kubernetes 1.37发布，动态资源分配（DRA）多项功能升级：扩展资源支持转正，设备污点与容忍稳定，新增标准NUMA属性。工作负载资源声明、设备...