小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI
趋境科技完成 B 轮融资,半年实现超十倍速增长,加速高品质 AI Token 规模化交付

趋境科技完成超13亿元B轮融资,年内累计募资24亿元。公司专注高品质AI Token生产,坚持“少模型、深优化”路线,通过异构推理等技术提升国产算力效率,日均Token产量半年增长超百倍至万亿级,收入达去年近十倍。资金将用于产能扩张、ATaaS平台升级及推理技术研发,并推进区域Token工厂与产业生态建设。

趋境科技完成 B 轮融资,半年实现超十倍速增长,加速高品质 AI Token 规模化交付

量子位 量子位 · 2026-10-26T06:50:44Z
科大讯飞首发星辰TaaS平台,让Token真正成为千行百业的生产力

2026科大讯飞1024开发者节发布星火X2.6,上下文扩展至百万Tokens并开源4B端侧模型;推出端云协同架构,路由准确率提升至96.1%;语音基座SparkAudio 1.0效果提升20%、时延降低15%、成本降低60%。开放平台推出新一代人机交互方案、Agent OS与APA、XFYUN CLI开发工作台及星辰TaaS平台,推动Token转化为业务价值。平台开发者达1187万,AI开发者大赛参赛团队超5.2万支。

科大讯飞首发星辰TaaS平台,让Token真正成为千行百业的生产力

量子位 量子位 · 2026-10-23T09:21:41Z
更新后的 Qt 代码审查技能将 token 成本降低多达 75%

Qt 重构了 QML 与 Qt C++ 代码审查技能以降低 token 消耗:将深度分析由 6 个子代理改为单代理,2500 行以下代码按规则直接分析,并仅审查会话中修改的代码。测试显示审查准确率未下降,小项目平均成本从 1.25 美元降至 0.31 美元。更新已发布在 GitHub 仓库及 Anthropic qt-development 插件中。

更新后的 Qt 代码审查技能将 token 成本降低多达 75%

Qt Blog Qt Blog · 2026-10-20T13:09:44Z

Ready Server 推出兼容 OpenAI 标准的私有 AI 推理接口 ReadyServer LLM API,所有 VPS 套餐用户可免费使用,无需 API 密钥,也不按 Token 计费。该服务基于 vLLM,提供 Qwen3.6-27B-FP8 和 Qwen3.8-27B-FP8 两款开源模型,支持工具调用、结构化 JSON 输出和图像输入。请求经内网直达推理服务器,不经过公网;采用公平共享机制,高峰时段排队,用量少的用户优先响应。

ReadyServer LLM API兼容OpenAI接口,不按Token计费

全球TMT-美通国际 全球TMT-美通国际 · 2026-10-20T08:10:05Z
首Token延迟降低32.4%!是石科技集群调度大招,国产推理再提效

是石科技发布TokenFleet分布式调度框架,聚焦请求路由、跨机房容量协同与混合负载治理。其中TokenPilot兼顾缓存复用与排队代价选择节点,FleetMind协同多机房可用容量,SLOMax按服务等级分池排队。框架以达标输出吞吐(Goodput)为优化目标,测算显示达标吞吐提高约29.4%,达标比例从约67%升至约86%。

首Token延迟降低32.4%!是石科技集群调度大招,国产推理再提效

量子位 量子位 · 2026-10-20T08:01:25Z
MiniMax刚刚将token价格减半,但你的AI代理账单未必随之下降

MiniMax发布M3.1 Flash,宣称代理成本降低70%,输入/输出每百万token定价0.15/0.60美元,推理速度接近M3的三倍。但第三方测得成本降幅为57%,且代理任务token消耗波动较大,70%的说法尚待验证。编码得分73.7%,与竞品接近,计算机使用能力较弱。事实问答正确率56%,错误回答率约93%,幻觉风险高,需增加验证。支持百万token上下文,权重与许可证未公布。

MiniMax刚刚将token价格减半,但你的AI代理账单未必随之下降

The New Stack The New Stack · 2026-10-19T22:00:19Z

苹果称首款折叠屏iPhone Duo预购需求异常强劲,发货排至明年1月底,销量或超预期。DeepSeek发布V4.1 Flash-1017,多数场景Token消耗降逾50%。字节跳动洽谈采购联发科AI芯片。黄仁勋称将停止向开发不安全AI的客户供货。奈飞更换首席内容官并裁员6%。长鑫科技预计前三季度净利润超1310亿元。

苹果称首款折叠屏手机需求异常强劲;DeepSeek新模型Token消耗降超五成;黄仁勋称会停止向开发不安全AI的客户供货 | 日报

全球TMT-美通国际 全球TMT-美通国际 · 2026-10-19T08:26:50Z
日均6万亿Token服务背后,商汤大装置如何提升推理效能?

商汤大装置CTO宣善明指出,Agentic时代Token需求将增长千倍,AI基础设施须从规模扩张转向效率优化。商汤通过PD分离与异构混合调度构建万卡级推理集群,以动态角色切换应对故障与闲置,特定配置下Token吞吐提升至5倍。未来将探索跨域PD分离与AF分离,并以Token工厂模式提升产能,日均服务量已达6万亿。

日均6万亿Token服务背后,商汤大装置如何提升推理效能?

量子位 量子位 · 2026-10-19T05:22:39Z
UltraBERT 将 32K Token 塞进单个向量,分块可以安息了?

UltraBERT-Embed-150M支持32K token输入,可将整篇文档压缩为单个768维向量。在LongEmbed和MLDR测试中,整文档向量在Passkey任务上召回率达99%,但在细节检索任务上普遍不如512 token分块,长文档细节易丢失。分块向量经1-bit TurboQuant压缩后体积缩小30倍,20万篇文章约140MB,保留约95%质量,重打分后达98%。结论:分块尚未过时,细节检索仍建议以512 token分块为起点。

UltraBERT 将 32K Token 塞进单个向量,分块可以安息了?

Qdrant - Vector Database Qdrant - Vector Database · 2026-10-19T00:00:00Z
大厂抽文档省 token 的做法正在收敛:先定位,只喂那一小块

2026年,Mistral、IBM、Intuit、Adobe、Vendr等六家公司围绕“用语言模型从非结构化文档抽取结构化字段”获得专利授权,技术路线趋于一致:先用规则、版式或分类器定位,仅将命中片段输入模型,再进行字段级校验。Mistral与Vendr授权速度异常快,表明权利要求空间已清晰。这提示工程界:整页输入模型的方式已落后,先定位后抽取成为共识,工具层竞争激烈。

大厂抽文档省 token 的做法正在收敛:先定位,只喂那一小块

Micropaper Micropaper · 2026-10-16T00:00:00Z
AI 智创简报:《抽文档省 token 的做法正在收敛:先定位,只喂那一小块》

2026年2至8月,Mistral、IBM、Intuit、Adobe、Vendr等六家公司围绕“用语言模型从非结构化文档抽取结构化字段”获得授权专利,技术路线高度一致:先用规则、版式或分类器定位,仅将命中片段送入模型,再做字段级校验,而非整页输入。Intuit、IBM、Vendr分别侧重邻域文本、提示词定位和校验流程。Mistral的入局表明模型厂商正布局流程层。先定位后抽取已成工程共识,工具层竞争激烈,授权速度可作为跟踪信号。

AI 智创简报:《抽文档省 token 的做法正在收敛:先定位,只喂那一小块》

Micropaper Micropaper · 2026-10-16T00:00:00Z
开放权重模型占token的71.5%、支出的23%

2026年10月AI网关生产指数显示,开放权重模型已占网关token七成以上、支出近四分之一,份额自6月翻两番。9月网关支出约为12月的13倍,单token均价下降47%。近三分之一团队更换主力实验室,创纪录。中国模型支出近七成经美国供应商,较12月不足一成大幅上升。Jev采用最快但支出仅0.27%,Opus 5.5首两周占超一成支出。前沿模型支出增十倍,开放权重增逾七十倍。

开放权重模型占token的71.5%、支出的23%

Vercel News Vercel News · 2026-10-15T07:00:00Z
Token Pass 正式推出

Vercel推出Token Pass早期访问,面向Pro团队,月费30美元,含80美元额度,支持GLM 5.3和Kimi K3等模型。可用于编码代理和自建代理,通过AI Gateway切换模型。默认零数据保留,请求后删除提示与响应,不用于训练。额度不结转,用尽后暂停至下月,无自动超额收费。

Token Pass 正式推出

Vercel News Vercel News · 2026-10-15T07:00:00Z
Keycloak 26.8 Token Exchange 委托机制解读:Agent 的身份 ID 是怎么进入令牌的 - 张善友

Keycloak 26.8 将 Token Exchange 委托功能升级为预览,并新增面向 AI Agent 的客户端委托:用户同意后令牌携带 may_act 声明,Agent 通过双令牌交换获得委托令牌,其中 sub 为用户、act 为 Agent,实现身份与调用方分离。文章还梳理了 RFC 8693、ID-JAG、WIMSE 等标准进展及微软、Okta 等厂商方案,并指出撤销缺口与 CVE-2026-97846 等风险。

Keycloak 26.8 Token Exchange 委托机制解读:Agent 的身份 ID 是怎么进入令牌的 - 张善友

张善友 张善友 · 2026-10-13T22:28:00Z
Gemini 4 Argon 亮相,统一 100 万输入/输出 token 上限

谷歌向开发者开放旗舰模型Gemini 4 Argon,定价与GPT-6.1 Sol相同,12月起涨价。该模型提供100万输入输出共享token额度,ERQA测试得分87%,编程越权率仅2%,并已在谷歌内部广泛使用。

Gemini 4 Argon 亮相,统一 100 万输入/输出 token 上限

The New Stack The New Stack · 2026-10-13T16:00:00Z

阶跃星辰 Step 5 Preview 上线 OpenRouter,100万 token 上下文窗口直接把 AI Agent 的天花板掀开了! 阶跃星辰 Step 5 Preview 现已登陆 OpenRouter,支持 OpenCode、Cline、Nous Research、Kilocode 等平台一周免费体

阶跃星辰 Step 5 Preview 免费一周开测:100万 token 上下文 + 原生视频理解

极道 极道 · 2026-10-09T03:58:00Z
一个 MCP 服务器还没干活就占用了 18,000 个 token。这是解决办法。

Pi 曾因 MCP 工具定义占用大量上下文(如 Chrome DevTools MCP 约 1.8 万 token)而拒绝集成,改用 Bash 脚本。Pi 1.0 原生支持 MCP,但通过 Codemode 在 QuickJS 沙箱中按需查找调用工具,默认不将工具定义放入提示,仅保留一行服务器描述,并设 3000 token 预算。开发者可用 toolExposure 控制暴露方式。此举降低了提示开销,但未解决 MCP 可组合性等根本问题。

一个 MCP 服务器还没干活就占用了 18,000 个 token。这是解决办法。

The New Stack The New Stack · 2026-10-05T21:55:12Z

本文介绍五种降低大模型Token消耗的提示词优化技巧:用结构化约束替代冗长指令;少样本示例控制在三到五个;对长文档动态裁剪上下文,仅保留相关段落;利用提示缓存复用固定前缀;将思维链推理与最终答案分离,丢弃推理过程。这些方法可显著降低成本并提升响应速度。

五种经过验证的Token压缩与提示词优化技巧

KDnuggets KDnuggets · 2026-10-02T12:00:00Z
openJiuwen X-Router自演进模型路由技术首发,昇腾亲和,Agent越跑越省,实测减少50+%Token消耗

openJiuwen推出开源智能路由,在Agent与模型之间增加决策层,按任务复杂度动态选择模型。其三层能力包括模型画像、多目标决策和反馈自演进。实测PinchBench得分接近全云基线,成本降低44.6%;Terminal-Bench成功率达Opus的95.2%,成本降低51.4%。

openJiuwen X-Router自演进模型路由技术首发,昇腾亲和,Agent越跑越省,实测减少50+%Token消耗

量子位 量子位 · 2026-10-02T07:34:15Z
OLMo-core 3的token gerrymandering提醒:MoE路由要按时间窗验收

Ai2 开源 OLMo-core 3,重写 MoE 训练系统,专家池扩至 128、参数达 470 亿,吞吐提升约 2.7 倍。报告指出“token gerrymandering”问题:全局均衡分数可能掩盖分时间窗的专家热点,导致局部拥堵。建议路由验收按时间窗、分层、分 GPU 进行,监控峰值占比、丢弃 Token 与通信等待,并设置停机条件。

OLMo-core 3的token gerrymandering提醒:MoE路由要按时间窗验收

Java for You Java for You · 2026-10-02T05:19:20Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码