小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
扩大美国关键基础设施的网络防护:Elastic 如何支持社区网络韧性基金会

美国关键基础设施频遭网络攻击,AI降低了攻击门槛,小型水、电、燃气公用事业因资金和人才不足尤为脆弱。2026年10月,Accenture、Dragos与SANS研究所成立社区网络韧性基金会,Elastic作为核心技术伙伴提供日志存储与搜索支持。首阶段将向最多500家年收入低于1亿美元的公用事业免费提供软件、硬件、部署服务及培训,初期投入约1000万美元,以提升其运营技术安全防护能力。

扩大美国关键基础设施的网络防护:Elastic 如何支持社区网络韧性基金会

Elastic Blog - Elasticsearch, Kibana, and ELK Stack Elastic Blog - Elasticsearch, Kibana, and ELK Stack · 2026-11-06T00:00:00Z

谷歌宣布在怀俄明州拉勒米县建设其首个数据中心,长期投资170亿美元。项目与Tallgrass Energy、Black Hills Energy、AEP等合作,将全额支付用电费用并承担自身发展所需基础设施。项目采用702兆瓦燃料电池配碳捕集与封存(CCS),为同类最大规划项目;燃料电池由Bloom Energy在美国制造,碳排放在附近封存中心永久地质储存。数据中心采用风冷以节约水资源。项目预计为当地带来数亿美元房产税,并投资K-12教育、职业培训和社区发展。

投资怀俄明州的基础设施、能源与劳动力

The Keyword The Keyword · 2026-11-05T17:00:00Z
Modular:2026年LLVM开发者大会:智能体时代的持久基础设施

作者参加LLVM开发者大会后指出,智能体加速代码生成导致加速器专用代码和DSL激增,带来重复维护与共享困难。大会主旨演讲强调,持久项目需共享意图、可读抽象与人工投入。作者认为Mojo与MAX可像MLIR一样提供跨硬件统一层,兼顾性能与可维护性,并呼吁社区重视协作与新人培养。

Modular:2026年LLVM开发者大会:智能体时代的持久基础设施

Modular Blog Modular Blog · 2026-11-04T00:00:00Z
构建跨研究基础设施的连接

2026年NEMO用户会议在MIT.nano举行,25家机构代表探讨共享实验室管理。开源平台NEMO用于管理培训、设备与计费,各机构分享了扩展应用。MIT.nano还展示了可连接多个NEMO系统、实时汇总设备能力信息的Hydra平台,助力研究者跨机构发现专业资源,推动微电子研发协作。

构建跨研究基础设施的连接

MIT News - Artificial intelligence MIT News - Artificial intelligence · 2026-11-03T19:30:00Z
Deepgram 收购 Pipecat 母公司 Daily,强化其语音 AI 基础设施

Deepgram收购开源语音AI框架Pipecat的开发方Daily,交易金额未披露,并承诺Pipecat永久开源且保持厂商中立。Pipecat用于协调语音视频流及STT、LLM、TTS链路以降低延迟。Deepgram同时发布与Pipecat团队共研的实时上下文标准RCS开放协议,借此拓展语音之外的实时通信领域。

Deepgram 收购 Pipecat 母公司 Daily,强化其语音 AI 基础设施

实时互动网 实时互动网 · 2026-10-30T02:54:59Z
【大模型基础设施工程·特别篇】31:机房脏活——从业务规划到电力、光纤、RDMA、光模块与交换机

本文讨论大模型机房落地的实操细节:从业务QPS与训练tokens推算所需卡数、机柜数和功率,再反推进线、冷却、布线与光模块配置。核心观点是电力与冷却能力决定代际上限,高密机柜必须采用液冷;光纤极性、光模块备件及兼容白名单常被忽视,易造成额外CAPEX和故障;交换机选型需比较IB与RoCE的TCO及运维成本;RDMA部署须明确PFC/ECN责任归属并完成验收;扩容应按P0/P1/P2分期推进,避免一次性囤货导致贬值。

【大模型基础设施工程·特别篇】31:机房脏活——从业务规划到电力、光纤、RDMA、光模块与交换机

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-10-30T00:00:00Z
一场GPU研讨会揭示了云原生基础设施中开发者体验的鸿沟

文章以新加坡雾霾打破“花园城市”印象为引,隐喻云原生技术当前处境:理想化的完美形象出现裂痕,现实并不总如预期般整洁高效。

一场GPU研讨会揭示了云原生基础设施中开发者体验的鸿沟

云原生 云原生 · 2026-10-29T11:06:46Z

本文聚焦推理服务的算子层:框架决定请求形状与KV布局,算子决定设备成本。需区分Prefill与Decode,分别关注算力与带宽。对比Attention实现(FA、FlashInfer、cuDNN等)应分层看算法、库与引擎集成,并核对版本支持。GEMM、量化、MoE及采样各有陷阱,如小M需辨权重带宽与launch开销,结构化输出常回退CPU。排障应先查引擎日志中的实际backend,再用profiler定位kernel,最后改配置。

【大模型基础设施工程·特别篇】30:推理算子与内核——Attention/GEMM/采样对比、工程实践与真实项目

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-10-29T00:00:00Z

推理框架是模型从“能跑”走向“可服务”的关键层,负责调度、KV管理、并行、采样与API。裸generate缺少请求级调度、分页KV和连续批处理,并发一高延迟与显存即崩。框架核心包括Scheduler、KV Manager、并行运行时、采样与Model Runner。2026年常用框架:vLLM通用、SGLang擅前缀缓存、TensorRT-LLM低延迟、LMDeploy、MindIE、llama.cpp边缘。上手建议先跑vLLM OpenAI server,再对照SGLang或LMDeploy。

【大模型基础设施工程·特别篇】29:推理框架详解——为啥需要、做什么、底层举例与部署 Demo

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-10-29T00:00:00Z
三问:基础设施为何正进入决定性时代

麻省理工学院土木与环境工程系主任Ali Jadbabaie指出,气候变化、人工智能、地缘政治与资源约束正同时冲击基础设施。发展中国家需求上升,沿用20世纪高耗能模式难以为继,需借助数字技术与AI提高效率。基础设施高度互联使风险系统性上升,其设计涉及社会、技术与经济,需跨学科协作。该系与世行等共同创办世界基础设施论坛,汇聚各方推动设计、融资、建设与运营新模式的持续对话。

三问:基础设施为何正进入决定性时代

MIT News - Artificial intelligence MIT News - Artificial intelligence · 2026-10-28T16:00:00Z

DeepSeek开源了生产推理引擎切片DeepInfer,支持DeepSeek-V4.1-Flash,适配NVIDIA SM100与昇腾950双后端。核心亮点包括自研kernel、MoE专家并行与EPLB负载均衡、DSpark置信度变长推测解码、SWA有界重算、零开销异步调度ZOS及batch-invariant。但跨请求KV、E/P/D分离编排、DP负载均衡等未开源,仅提供离线推理入口,硬件门槛高,模型面窄。其价值在于可审计的生产配方参考,而非替代vLLM/SGLang等通用引擎。

【大模型基础设施工程·特别篇】28:DeepInfer 深度解析——DeepSeek 生产推理引擎开源了什么

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-10-28T00:00:00Z
谷歌将Gemini代理背后的基础设施转化为云服务

谷歌计划今年晚些时候向Google Cloud用户预览Agent Compute Engine,为每个AI代理提供硬件隔离的微虚拟机,兼顾容器速度与沙箱安全。该服务源自Gemini内部基础设施,支持长时间运行的代理循环、代码执行和强化学习,并通过无状态主机、加密通信和外部代理网关防止代理逃逸。谷歌还提供开源运行时Agent Substrate,可在任意Kubernetes集群上运行,支持高密度短时工具调用。

谷歌将Gemini代理背后的基础设施转化为云服务

The New Stack The New Stack · 2026-10-22T13:00:00Z
通往智能体规模 Git 基础设施的桥梁

GitHub工程博客介绍三项工作:自动审查外部协作者权限并归档陈旧仓库;重构星标历史API,将请求量从2500次降至24次,在不返回个人身份信息的前提下提供趋势数据;在GitHub持续运行的同时重建Git基础设施,为智能体规模的软件开发奠定基础。

通往智能体规模 Git 基础设施的桥梁

The GitHub Blog The GitHub Blog · 2026-10-21T16:00:00Z
谷歌云与英伟达宣布NVIDIA Vera Rubin基础设施正式可用

谷歌云与英伟达宣布,基于Vera Rubin NVL72系统的A5X实例将于下月正式可用,并计划扩展至欧洲,为智能体推理和大规模强化学习提供集成的训练与推理平台。谷歌云计划在多站点部署多达96万块Rubin GPU。伦敦初创公司Ineffable Intelligence成为首个客户,用于推进“超级学习者”研究;WPP也展示了创意智能体架构。此外,谷歌云将率先在裸金属实例上提供机架级机密计算,并探索DSX MaxLPS以优化能效。

谷歌云与英伟达宣布NVIDIA Vera Rubin基础设施正式可用

NVIDIA Blog NVIDIA Blog · 2026-10-21T10:45:17Z
英伟达机密计算扩展,助力前沿模型构建者安全扩展全球基础设施

英伟达扩展机密计算,推出机密裸金属部署选项,使前沿模型构建者能在第三方云、新云及企业基础设施上安全运行敏感工作负载,同时掌控模型与数据。该方案提供裸金属、容器和虚拟机三种部署模式,并扩展至Grace Blackwell、Rubin系统及DSX OS。Cohere、谷歌云等将采用,支持全球安全扩展训练与推理。

英伟达机密计算扩展,助力前沿模型构建者安全扩展全球基础设施

NVIDIA Blog NVIDIA Blog · 2026-10-21T10:30:02Z
欧洲领军企业转向英伟达Vera CPU构建本地基础设施

英伟达Vera CPU获欧洲云服务商、AI原生企业及服务器厂商采用,用于构建本地AI基础设施。其高单核性能与高带宽内存可加速智能体检索、代码执行和工具调用,并支持大规模并发任务。Nebius、Nscale等云商及戴尔、惠普等服务器厂商将推出基于Vera的系统,数据分析和软件平台也在测试其分析、语义搜索等负载,沙盒服务商则用其支撑智能体运行。

欧洲领军企业转向英伟达Vera CPU构建本地基础设施

NVIDIA Blog NVIDIA Blog · 2026-10-20T10:30:11Z
屏蔽身份解析基础设施

苹果WebKit团队指出,全面屏蔽跨站Cookie后,追踪行业转向“身份解析”:第三方在用户登录或订阅时暗中收集邮箱,生成永久追踪ID,构建跨站、跨设备身份图谱。苹果将在iOS、iPadOS、macOS和visionOS 27中于域名层面屏蔽身份解析基础设施的网络访问,阻止邮箱被发送至其服务器,并推荐iCloud+的“隐藏我的电子邮件”功能。苹果强调将继续默认阻止隐蔽跨站追踪,同时保留网站的第一方个性化能力。

屏蔽身份解析基础设施

WebKit WebKit · 2026-10-19T17:50:24Z
AI 开始挑战最复杂的系统:生命

2026年,AI生命科学转向“生命世界模型”,从分子层面升级到预测完整生命系统。扎克伯格Biohub联合美国能源部、NIH等投入18亿美元搭建数据与实验基础设施;国内“计算医学”被纳入“十五五”医药规划。哲源科技发布WHIRLPO平台,整合异构算力、多组学数据与实验闭环,应对数据分散、多尺度建模等难题。行业竞争已从模型指标转向基础设施,核心是让AI真正理解生命系统。

AI 开始挑战最复杂的系统:生命

量子位 量子位 · 2026-10-19T10:04:18Z
Vobiz AI 为语音 AI 和播客构建电信基础设施

Vobiz为AI代理构建专用电信基础设施,提供16/24 kHz高保真音频、降噪和纠错,支持快速部署、活动管理及呼叫前智能路由,覆盖约130国,月处理数亿通话,旨在打造AI智能通信层。

Vobiz AI 为语音 AI 和播客构建电信基础设施

实时互动网 实时互动网 · 2026-10-16T02:38:33Z

MCP协议虽快速标准化了AI与工具的连接,但生产级基础设施仍缺失。从演示到落地面临认证、权限、安全、可靠性、可观测性及上下文管理等挑战,团队重复搭建相同管道。远程服务器与渐进式工具发现成为趋势,但安全风险突出。MCP正演变为独立基础设施层,协议只是起点,围绕它的系统才是关键。

MCP 标准化了工具,现在我们需要围绕它们的基础设施。

Stack Overflow Blog Stack Overflow Blog · 2026-10-15T20:39:29Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码