DeepSeek V4引入CSA和HCA两种压缩注意力机制,以提高大模型处理超长上下文的效率。CSA通过分组压缩和稀疏选择保留更多细节,而HCA则实现极端压缩并对所有条目进行密集注意。两者结合使用,既保留重要信息,又降低计算成本。尽管效率提升显著,处理百万级token仍需高性能硬件,主要面向大规模推理场景。未来可能探索动态压缩率等新方向。
DeepSeek-V4系列模型推出了1.6T和284B参数的两个版本,采用混合注意力架构和流形约束超连接,提升了长上下文处理效率。通过Muon优化器和多项基础设施优化,模型在训练和推理阶段展现出更高的稳定性和效率。预训练后,DeepSeek-V4在多个基准测试中超越前代,设立了新的性能标准。
据Security Affairs网站报道,HCA医疗公司近期遭受网络攻击,导致约1100万患者个人信息泄露。攻击者在地下论坛上宣传入侵HCA,并发布了包括患者姓名、城市、州和邮编、电子邮件、电话号码、出生日期、性别以及服务日期、地点和下次预约日期等敏感信息。HCA已通知执法部门并展开调查,暂时无法确认受影响的患者数量。尽管约2700万行数据被泄露,但HCA表示此次事件不会对业务或财务业绩产生重大影响,且护理和服务未中断。
完成下面两步后,将自动完成登录并继续当前操作。