美国关键基础设施频遭网络攻击,AI降低了攻击门槛,小型水、电、燃气公用事业因资金和人才不足尤为脆弱。2026年10月,Accenture、Dragos与SANS研究所成立社区网络韧性基金会,Elastic作为核心技术伙伴提供日志存储与搜索支持。首阶段将向最多500家年收入低于1亿美元的公用事业免费提供软件、硬件、部署服务及培训,初期投入约1000万美元,以提升其运营技术安全防护能力。
谷歌宣布在怀俄明州拉勒米县建设其首个数据中心,长期投资170亿美元。项目与Tallgrass Energy、Black Hills Energy、AEP等合作,将全额支付用电费用并承担自身发展所需基础设施。项目采用702兆瓦燃料电池配碳捕集与封存(CCS),为同类最大规划项目;燃料电池由Bloom Energy在美国制造,碳排放在附近封存中心永久地质储存。数据中心采用风冷以节约水资源。项目预计为当地带来数亿美元房产税,并投资K-12教育、职业培训和社区发展。
作者参加LLVM开发者大会后指出,智能体加速代码生成导致加速器专用代码和DSL激增,带来重复维护与共享困难。大会主旨演讲强调,持久项目需共享意图、可读抽象与人工投入。作者认为Mojo与MAX可像MLIR一样提供跨硬件统一层,兼顾性能与可维护性,并呼吁社区重视协作与新人培养。
2026年NEMO用户会议在MIT.nano举行,25家机构代表探讨共享实验室管理。开源平台NEMO用于管理培训、设备与计费,各机构分享了扩展应用。MIT.nano还展示了可连接多个NEMO系统、实时汇总设备能力信息的Hydra平台,助力研究者跨机构发现专业资源,推动微电子研发协作。
Deepgram收购开源语音AI框架Pipecat的开发方Daily,交易金额未披露,并承诺Pipecat永久开源且保持厂商中立。Pipecat用于协调语音视频流及STT、LLM、TTS链路以降低延迟。Deepgram同时发布与Pipecat团队共研的实时上下文标准RCS开放协议,借此拓展语音之外的实时通信领域。
本文讨论大模型机房落地的实操细节:从业务QPS与训练tokens推算所需卡数、机柜数和功率,再反推进线、冷却、布线与光模块配置。核心观点是电力与冷却能力决定代际上限,高密机柜必须采用液冷;光纤极性、光模块备件及兼容白名单常被忽视,易造成额外CAPEX和故障;交换机选型需比较IB与RoCE的TCO及运维成本;RDMA部署须明确PFC/ECN责任归属并完成验收;扩容应按P0/P1/P2分期推进,避免一次性囤货导致贬值。
文章以新加坡雾霾打破“花园城市”印象为引,隐喻云原生技术当前处境:理想化的完美形象出现裂痕,现实并不总如预期般整洁高效。
本文聚焦推理服务的算子层:框架决定请求形状与KV布局,算子决定设备成本。需区分Prefill与Decode,分别关注算力与带宽。对比Attention实现(FA、FlashInfer、cuDNN等)应分层看算法、库与引擎集成,并核对版本支持。GEMM、量化、MoE及采样各有陷阱,如小M需辨权重带宽与launch开销,结构化输出常回退CPU。排障应先查引擎日志中的实际backend,再用profiler定位kernel,最后改配置。
推理框架是模型从“能跑”走向“可服务”的关键层,负责调度、KV管理、并行、采样与API。裸generate缺少请求级调度、分页KV和连续批处理,并发一高延迟与显存即崩。框架核心包括Scheduler、KV Manager、并行运行时、采样与Model Runner。2026年常用框架:vLLM通用、SGLang擅前缀缓存、TensorRT-LLM低延迟、LMDeploy、MindIE、llama.cpp边缘。上手建议先跑vLLM OpenAI server,再对照SGLang或LMDeploy。
麻省理工学院土木与环境工程系主任Ali Jadbabaie指出,气候变化、人工智能、地缘政治与资源约束正同时冲击基础设施。发展中国家需求上升,沿用20世纪高耗能模式难以为继,需借助数字技术与AI提高效率。基础设施高度互联使风险系统性上升,其设计涉及社会、技术与经济,需跨学科协作。该系与世行等共同创办世界基础设施论坛,汇聚各方推动设计、融资、建设与运营新模式的持续对话。
DeepSeek开源了生产推理引擎切片DeepInfer,支持DeepSeek-V4.1-Flash,适配NVIDIA SM100与昇腾950双后端。核心亮点包括自研kernel、MoE专家并行与EPLB负载均衡、DSpark置信度变长推测解码、SWA有界重算、零开销异步调度ZOS及batch-invariant。但跨请求KV、E/P/D分离编排、DP负载均衡等未开源,仅提供离线推理入口,硬件门槛高,模型面窄。其价值在于可审计的生产配方参考,而非替代vLLM/SGLang等通用引擎。
谷歌计划今年晚些时候向Google Cloud用户预览Agent Compute Engine,为每个AI代理提供硬件隔离的微虚拟机,兼顾容器速度与沙箱安全。该服务源自Gemini内部基础设施,支持长时间运行的代理循环、代码执行和强化学习,并通过无状态主机、加密通信和外部代理网关防止代理逃逸。谷歌还提供开源运行时Agent Substrate,可在任意Kubernetes集群上运行,支持高密度短时工具调用。
GitHub工程博客介绍三项工作:自动审查外部协作者权限并归档陈旧仓库;重构星标历史API,将请求量从2500次降至24次,在不返回个人身份信息的前提下提供趋势数据;在GitHub持续运行的同时重建Git基础设施,为智能体规模的软件开发奠定基础。
谷歌云与英伟达宣布,基于Vera Rubin NVL72系统的A5X实例将于下月正式可用,并计划扩展至欧洲,为智能体推理和大规模强化学习提供集成的训练与推理平台。谷歌云计划在多站点部署多达96万块Rubin GPU。伦敦初创公司Ineffable Intelligence成为首个客户,用于推进“超级学习者”研究;WPP也展示了创意智能体架构。此外,谷歌云将率先在裸金属实例上提供机架级机密计算,并探索DSX MaxLPS以优化能效。
英伟达扩展机密计算,推出机密裸金属部署选项,使前沿模型构建者能在第三方云、新云及企业基础设施上安全运行敏感工作负载,同时掌控模型与数据。该方案提供裸金属、容器和虚拟机三种部署模式,并扩展至Grace Blackwell、Rubin系统及DSX OS。Cohere、谷歌云等将采用,支持全球安全扩展训练与推理。
英伟达Vera CPU获欧洲云服务商、AI原生企业及服务器厂商采用,用于构建本地AI基础设施。其高单核性能与高带宽内存可加速智能体检索、代码执行和工具调用,并支持大规模并发任务。Nebius、Nscale等云商及戴尔、惠普等服务器厂商将推出基于Vera的系统,数据分析和软件平台也在测试其分析、语义搜索等负载,沙盒服务商则用其支撑智能体运行。
苹果WebKit团队指出,全面屏蔽跨站Cookie后,追踪行业转向“身份解析”:第三方在用户登录或订阅时暗中收集邮箱,生成永久追踪ID,构建跨站、跨设备身份图谱。苹果将在iOS、iPadOS、macOS和visionOS 27中于域名层面屏蔽身份解析基础设施的网络访问,阻止邮箱被发送至其服务器,并推荐iCloud+的“隐藏我的电子邮件”功能。苹果强调将继续默认阻止隐蔽跨站追踪,同时保留网站的第一方个性化能力。
2026年,AI生命科学转向“生命世界模型”,从分子层面升级到预测完整生命系统。扎克伯格Biohub联合美国能源部、NIH等投入18亿美元搭建数据与实验基础设施;国内“计算医学”被纳入“十五五”医药规划。哲源科技发布WHIRLPO平台,整合异构算力、多组学数据与实验闭环,应对数据分散、多尺度建模等难题。行业竞争已从模型指标转向基础设施,核心是让AI真正理解生命系统。
Vobiz为AI代理构建专用电信基础设施,提供16/24 kHz高保真音频、降噪和纠错,支持快速部署、活动管理及呼叫前智能路由,覆盖约130国,月处理数亿通话,旨在打造AI智能通信层。
MCP协议虽快速标准化了AI与工具的连接,但生产级基础设施仍缺失。从演示到落地面临认证、权限、安全、可靠性、可观测性及上下文管理等挑战,团队重复搭建相同管道。远程服务器与渐进式工具发现成为趋势,但安全风险突出。MCP正演变为独立基础设施层,协议只是起点,围绕它的系统才是关键。
完成下面两步后,将自动完成登录并继续当前操作。