Anthropic加强Claude推理数据保护以打击模型蒸馏,新措施使推理数据提取量下降90%~99%。措施包括保留思考功能、禁止编辑先前对话上下文、限制跨模型读取推理记录,并用分类器识别套取请求,已封禁数万账户。但保留思考机制需开发者调整集成,分类器可能误拦正常请求,误报率低于0.1%,被拦请求仍计费。
Anthropic扩展Cyber Verification Program,设三级访问权限:Defense Access面向防御团队,限制最严,测试中Claude Opus 5.5在50项攻防任务中被拦截46项;Red Team Access面向红队和渗透测试,无拦截,成功34项;Specialized Access限少数经美国政府联合审核的机构。所有层级均须接受数据保留,秋季将推出EFS允许自控云存储。
联合国首个AI科学小组警告,各国应在风险完全明确前监管日益强大的AI代理,依据预防原则采取保障措施,无需等待科学界弄清失控事件成因。本周联合国大会及中美AI会谈将讨论此事。此前OpenAI、Anthropic、谷歌、Meta等公司已记录多起AI事件。
LLM接入生产业务后,模型调用凭证成为高价值攻击目标,泄漏可致盗刷巨额损失。文章提出三项当天可落地的防护措施:账单异常监控(AWS Budgets、Cost Anomaly Detection、Token级预算哨兵三层兜底);凭证请求来源限制(VPC Endpoint或固定出口IP的IAM条件键拦截外部调用);启用GuardDuty AI Protection检测异常凭证使用与调用模式。文末附技术与管理加固Checklist,建议第一周先完成P0项。
Spotify工程博客指出,其服务月活用户达7.77亿,每秒处理1100万至1200万后端请求。近期四类问题影响质量:内容激增导致发布延迟、自动化变更引发新故障、AI推高算力需求并影响区域故障转移、移动端质量波动加快。数据显示AI代码未直接导致事故,但变更量增速超过验证能力。Spotify正加强监控、回滚、容量与质量指标。
Linux内核基础设施正遭受AI爬虫的持续攻击,每日600万次请求中仅2%为正常访问。爬虫绕过Anubis验证,消耗约20%算力,远超Git克隆等正常使用。管理员考虑减少可抓取URL、限制匿名访问,但问题根源在于爬虫低效消耗开源社区资源,最终代价由正常用户承担。
2026年2月23日,DEVCORE研究团队发现python.org API存在身份验证绕过漏洞,攻击者可利用该漏洞修改Python发布的元数据。经过审计,未发现该漏洞被利用。PSRT团队已迅速修复该漏洞,并加强了安全性,确保API仅接受HTTPS链接。
美国联邦能源监管委员会(FERC)采取新措施,促进大型负载互联,降低电力成本,增强电网稳定性。这些措施鼓励大型客户参与基础设施建设,提高电力供应效率。研究表明,电力需求增加可降低零售电价,北达科他州等地已取得成效。FERC的政策为各州提供竞争机会,推动技术和工业投资,确保未来电网的可靠性与适应性。
2026年是生成性人工智能广泛应用后的第二个重大选举年。OpenAI致力于保护全球选举,提供可靠的投票信息,支持网络安全基础设施,增加AI生成内容的透明度,打击不当使用。OpenAI与美国和巴西合作,提供实时投票计数,并与民主组织合作,确保选民获取准确的投票信息。同时,推出数字水印技术以验证AI生成内容的真实性,防止选举相关的误导信息。
本文讨论了MongoDB的多个主题,包括PSMDB Sandbox的浏览器界面、查询计划缓存的性能及缺陷,以及Percona ClusterSync 0.8.0版本的更快变更复制能力。
大型语言模型(LLMs)常使用冗长的语言,导致生成的回答可能偏离事实并增加幻觉风险。为解决此问题,文章介绍了使用Textstat库测量可读性,并在复杂度超标时自动简化回答,通过设置复杂度预算确保生成文本更简洁,从而降低幻觉发生的可能性。
谷歌威胁情报组发布报告,首次识别出利用AI开发的零日漏洞的攻击者。该攻击者计划进行大规模攻击,但谷歌的主动防御措施可能已阻止了这一事件。谷歌通过增强产品保护和使用AI技术检测和修复软件漏洞,展示了AI在网络安全中的重要作用。
本文讨论了为非确定性AI代理实施统计安全防护措施的重要性。通过余弦距离的语义漂移检测和香农熵的置信度阈值等统计方法,可以有效识别不相关或不安全的响应,从而确保AI代理在与用户交互时的安全性和可靠性。
欧盟初步裁定Meta未能有效阻止13岁以下儿童使用Facebook和Instagram,违反数字服务法(DSA)。调查显示,Meta缺乏有效的年龄验证措施,儿童可轻易伪造年龄注册。若不整改,Meta可能面临高达120亿美元的罚款,欧盟要求其更新风险评估并加强年龄验证工具。
2026年3月31日,axios npm包遭到供应链攻击。Vercel已采取措施保护平台,受影响的版本已从npm移除,最新版本为axios@1.14.0。建议检查依赖项并更新项目,以确保使用安全版本。
微软将对Windows 11进行重大升级,恢复任务栏停靠功能,移除多余的AI快捷入口,并改善开机设置和核心体验,以提升用户体验。此举回应用户对稳定性的反馈,预计将在3至4月进行测试推送。
北航团队推出了ClawGuard Auditor安全防御工具,旨在检测恶意技能并保障用户系统安全。该工具具备全面的安全能力,覆盖全生命周期,提供九大高危风险及防护建议,帮助用户防范智能体安全威胁。
HBO Max计划于2026年全球扩展其密码共享打击措施。华纳兄弟发现公司在美国已加强付费共享,预计国际用户也将面临类似政策。HBO Max在2025年最后一个季度新增350万用户,总数达到1.316亿,目标是年底前达到1.5亿。
Jake Nations在演讲中区分了“简单”和“容易”。“容易”是指快速完成任务,而“简单”则是理解工作的过程。虽然快速创建网站很容易,但理解其背后的原理却不简单。
为了确保GitHub的可用性,建立有效的防御机制至关重要。过时的保护措施可能误伤正常用户,用户反馈促使我们清理这些措施,并强调可观察性的重要性。调查显示,旧的保护规则未及时更新,导致合法请求被错误阻止。我们已移除无效规则,并改善了保护措施的管理,以提升用户体验。
完成下面两步后,将自动完成登录并继续当前操作。