小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
模型部署平台有哪些:自托管推理引擎与托管云平台的选型对比

文章比较自托管推理引擎与托管云推理平台:月调用量低于5亿token时托管总成本更低,超过10亿token后自托管单token成本优势明显,拐点约在5亿至10亿之间。自托管需承担GPU运维,vLLM最常用,TensorRT-LLM吞吐略高但更复杂;托管平台省运维但按量计费。两者可混用,稳态走自托管、突发溢出到托管。

模型部署平台有哪些:自托管推理引擎与托管云平台的选型对比

Gitee 官方博客 Gitee 官方博客 · 2026-10-24T00:00:15Z
Vercel 着手淘汰静态凭证,开发者却发现其自家部署令牌仍在。

Vercel要求Marketplace供应商在2027年前淘汰长期API密钥,改用OIDC和短期身份令牌,否则将被下架。调查显示仅8.4%供应商支持安全认证方式,而Vercel自身GitHub Actions部署流程仍依赖VERCEL_TOKEN,遭开发者批评。11月30日起不合规集成将标注“不安全”。Vercel Connect支持运行时获取短期凭证,但仍保留静态密钥选项。

Vercel 着手淘汰静态凭证,开发者却发现其自家部署令牌仍在。

The New Stack The New Stack · 2026-10-23T20:04:16Z
部署现显示构建缓存大小

Vercel 部署摘要现显示每次部署节省的构建缓存大小及其与构建机器上限的接近程度,CLI(65.1.0+)的 vercel inspect 和 REST API 也可查看。上传缓存计入计费构建时间,超限缓存会被丢弃,下次构建将无缓存。该功能自 10 月 21 日起对所有套餐默认开启。

部署现显示构建缓存大小

Vercel News Vercel News · 2026-10-23T19:00:00Z
英伟达Cosmos推出新工具,助力世界模型的训练、评估与部署

英伟达扩展Cosmos平台,新增训练工具、仿真检查点和数据工厂蓝图,帮助开发者更高效地训练、评估和部署世界模型。Cosmos数据工厂提供五类云端蓝图,用于自动驾驶、缺陷检测等合成数据生成;框架支持微调、强化学习、蒸馏和量化。保时捷、ANYbotics等已应用,可大幅减少实车测试并缩短开发周期。

英伟达Cosmos推出新工具,助力世界模型的训练、评估与部署

NVIDIA Blog NVIDIA Blog · 2026-10-22T05:00:27Z
华为云3000积分领取:沙箱+ECS部署,兑换云服务代金券

华为云开发者社区推出积分活动,用户签到并完成任务可获积分,兑换无门槛代金券用于服务器续费。任务包括:在开发者空间用提示词安装配置HuaweiCloud DevKit;用沙箱部署2048小游戏并提交公网链接,得1000积分;用DevKit在cn-north-4部署ECS,以Nginx托管页面并提交地址,得2000积分。活动参与人多易超时需重试,代金券每日限量。

华为云3000积分领取:沙箱+ECS部署,兑换云服务代金券

如有乐享 如有乐享 · 2026-10-22T04:24:07Z
跳过的 monorepo 部署不再计入限额

Vercel 更新:monorepo 中自动跳过的部署不再计入部署速率限制,团队可在相同限额下获得更多部署。Vercel 借助 Turborepo 的包依赖图和锁文件分析判断提交影响哪些项目,当项目源码及内部依赖未变时跳过部署。新 monorepo 项目默认启用,现有项目可在设置中开启。

跳过的 monorepo 部署不再计入限额

Vercel News Vercel News · 2026-10-21T00:00:00Z
博客评论系统迁移记:Valine → Waline → Twikoo(附评论系统对比与 Cloudflare Workers + D1 部署教程)

作者因LeanCloud停服和Vercel账号被封,将博客评论系统从Valine、Waline迁移至Twikoo+Cloudflare Workers+D1,536条评论无损迁移且零成本。文中对比十款评论系统,详述部署步骤、配置要点及数据转换中的路径编码、表情短码、超长内容等问题,并强调免费PaaS不可靠,应定期备份并监控评论区。

博客评论系统迁移记:Valine → Waline → Twikoo(附评论系统对比与 Cloudflare Workers + D1 部署教程)

EdNovas的小站 EdNovas的小站 · 2026-10-19T16:30:00Z
无需账户即可使用 Vercel Drop 部署

Vercel 推出无需账户的静态网站部署功能 Vercel Drop,用户拖放文件、文件夹或 ZIP 压缩包即可获得在线网址。未登录账户的部署一小时后过期,需登录或注册并认领项目才能保持网站运行。

无需账户即可使用 Vercel Drop 部署

Vercel News Vercel News · 2026-10-19T00:00:00Z
范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”

范式智能与睿思智联联合推出免费开源的一站式生产级AI部署平台“模域”,整合算力管理、模型部署与运行优化,支持国产芯片统一调度,内置自动扩缩容、KV缓存等企业级能力,吞吐效率提升约285%,已适配DeepSeek、Qwen等主流模型,采用Apache 2.0协议开源。

范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”

量子位 量子位 · 2026-10-16T07:16:11Z
已删除的部署将更快被永久移除

Vercel 调整了部署删除后的恢复期规则:不足 30 天的部署被删除后,恢复期缩短。按保留策略删除的,恢复期与策略时长相同;手动删除且创建不足 1 天的,可再恢复 1 天;创建 1 至 30 天间手动删除的,恢复期等于其已存在时长;满 30 天删除的仍为 30 天。逾期将永久删除,构建失败的部署可能更早清除。

已删除的部署将更快被永久移除

Vercel News Vercel News · 2026-10-16T00:00:00Z
FactSet 如何借助 Databricks AI Runtime 将模型训练和部署时间从数天缩短至数小时

FactSet 的 Text-to-Formula 系统将自然语言转换为 FactSet 查询语言,最初依赖 RAG,但复杂查询效果不佳。团队改用微调开源模型,每两到三周重新训练一次。借助 Databricks AI Runtime 的无服务器 GPU,无需配置基础设施,训练部署周期从数天缩短至数小时,并保持数据治理与 MLflow 实验追踪。

FactSet 如何借助 Databricks AI Runtime 将模型训练和部署时间从数天缩短至数小时

Databricks Databricks · 2026-10-14T22:55:41Z
Omdia:62%的企业在物联网部署中采用边缘计算

Omdia对570名物联网决策者的调查显示,62%的企业已采用边缘架构,78%的部署已超越试点阶段,87%达到或超出预期。安全(31%)和与OT及传统IT集成的复杂性是规模化的主要障碍,预算不足(21%)并非首要问题。边缘计算正成为交付业务价值的生产级基础设施。

Omdia:62%的企业在物联网部署中采用边缘计算

实时互动网 实时互动网 · 2026-10-14T06:25:49Z

IBM推出企业级智能体软件开发平台IBM Bob的自托管部署模式,支持在本地机房、私有云及物理隔离离线环境中部署AI软件开发能力,实现全流程自主管控。企业无需将敏感代码、数据或工作流移出可控基础设施,可接入本地大模型或通过混合架构使用云端模型,满足数据属地、安全与AI治理需求。

IBM推出IBM Bob自托管部署方案

全球TMT-美通国际 全球TMT-美通国际 · 2026-10-12T08:16:39Z
Kafka → Amazon Redshift 数据摄取 · 三方案对比与部署手册

本文对比三种 Kafka 入仓 Redshift 方案:一、MSK 托管配 IAM 认证与流式摄取物化视图,秒级时延、免运维,推荐首选;二、EC2 自建 Kafka 走 TLS 直摄,成本低但需自运维;三、经 S3 Tables 落地 Iceberg 再外部表查询,存算分离、多引擎共享,时延分钟级。文中给出部署步骤、成本与性能要点,并说明中国区适用性。

Kafka → Amazon Redshift 数据摄取 · 三方案对比与部署手册

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2026-10-10T09:28:19Z
新Pro团队现默认采用30天部署保留期

新Pro团队默认部署保留期改为30天,以应对编码代理加快开发导致的部署频率和历史存储增加,缩短保留期可保留近期记录并降低存储成本。用户可在团队设置中选择更长保留期以便检查或回滚。部署存储和函数存储均为每GB月0.10美元。超出保留策略的旧部署可能被删除,且无法恢复或用于回滚。

新Pro团队现默认采用30天部署保留期

Vercel News Vercel News · 2026-10-09T18:00:00Z
现有Pro团队开始收取部署存储费用

Vercel将对所有Pro团队按每GB每月0.10美元收取部署与函数存储费用,具体计费时间以邮件通知为准。为控制成本,部署保留期改为30天,超过30天的部署将于10月23日起删除,用户可在此之前选择退出。保留期已为30天或更短的不受影响。用户可通过部署保留策略管理各类部署的保留时长,并在用量页面查看存储情况。

现有Pro团队开始收取部署存储费用

Vercel News Vercel News · 2026-10-09T18:00:00Z
VVC 采用加速:移动硬件突破编解码器部署壁垒

VVC正迈向主流部署。六大手机品牌已获专利授权,占全球市场约62%,支持VVC的移动芯片预计2026年下半年商用,以破解设备与内容互等的困局。专利池已超6000项专利,流媒体平台也加入授权。视频体量增长强化了压缩需求,市场将呈VVC、HEVC、AV1多编解码器并存格局。

VVC 采用加速:移动硬件突破编解码器部署壁垒

实时互动网 实时互动网 · 2026-10-09T03:28:31Z
SonnetDB 4.0.0:多模型数据库好用之前,先看部署和恢复边界

SonnetDB 4.0.0 发布,支持多模型与嵌入式部署。作者认为多模型数据库的关键在于明确数据边界与恢复机制,而非功能堆砌,建议先用于内部工具或边缘模块,验证备份、恢复、升级和性能,成熟系统勿急于迁移主链路。

SonnetDB 4.0.0:多模型数据库好用之前,先看部署和恢复边界

mongona news mongona news · 2026-10-07T22:39:54Z
第二部分:将评估作为部署门禁——以及如何识别其漂移

主张将LLM评估作为CI部署门禁,用版本化黄金用例、显式评分器和按切片路由在构建时拦截回归。门禁只能发现骤降,无法捕捉缓慢漂移,因此需对照已知良好基线做显著性检验,并对线上流量抽样做影子评估,监控人工覆盖率和置信度趋势,将失败案例回补进黄金集。

第二部分:将评估作为部署门禁——以及如何识别其漂移

Stack Overflow Blog Stack Overflow Blog · 2026-10-07T20:31:12Z

2025年初还无人问津的“前向部署工程师”(FDE)职位,到2026年招聘量暴涨数千个百分点,OpenAI、Anthropic等纷纷重金布局。FDE嵌入客户现场,用真实数据构建生产级AI方案,核心是将客户反馈回流至产品路线图,而非咨询或销售。其兴起源于AI落地“最后一公里”的集成与组织难题。该职位薪资高、需求旺,但存在改名充数、高流动与倦怠风险。技能本身比头衔更持久。

前向部署工程师:AI最热门的新职业,还是换了更好头衔的咨询?

KDnuggets KDnuggets · 2026-10-02T14:00:04Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码