小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ

Qwen 3.8 Flash Next经优化后,单台算力舱解码速度从23 TPS提升至102 TPS,创世界纪录。18K预填充达2588 TPS,30K首字延迟11.43秒。其T5000芯片FP4算力2070T,远超DGX G10的1000T,单台性能相当于两台DGX G10组合,性价比极高。

世界纪录,Qwen 3.8 Flash Next 单台 102 TPS

Andy Stewart Andy Stewart · 2026-08-30T16:00:00Z
Qwen 3.8 Flash Next:101 TPS + 320K 上下文

单台懒猫AI算力舱优化Qwen 3.8 Flash Next,Decode达100-102 TPS,Prefill 2070-2609 TPS,TTFT 5K 1.9s。通过YaRN技术将KV Cache调至16GB,上下文从265K扩展至320K,性能几乎不变,Edit Decode反升。72小时调优后,将部署图形化程序供用户使用。相比两台DGX GB10,算力舱因FP4算力翻倍、显存直连更快,单台即可实现100+ TPS。

Qwen 3.8 Flash Next:101 TPS + 320K 上下文

Andy Stewart Andy Stewart · 2026-08-30T16:00:00Z

文章介绍了通过两台协同计算优化AI模型,实现稳定70 TPS和382K上下文,并利用DFlash2优化稠密模型达到单流125-133 TPS、8并发231 TPS,通过YaRN技术将上下文扩展至900K。同时对比了n-gram和MTP方案,最终选择MTP实现60 TPS和2232 TPS Prefill,适合日常写代码,并计划继续优化其他模型。

算力舱AI模型适配实录

Andy Stewart Andy Stewart · 2026-08-28T16:00:00Z
在AI Gateway上按成本、延迟或吞吐量对提供者进行排序

AI Gateway 允许用户根据成本、首次令牌时间(TTFT)或吞吐量(TPS)对模型提供者进行排序,以优化请求,选择最低成本或最低延迟的提供者。排序在请求时计算,并支持与其他路由选项结合使用,确保高效处理。

在AI Gateway上按成本、延迟或吞吐量对提供者进行排序

Vercel News Vercel News · 2026-05-15T00:00:00Z
LayerZero 从来不挑战比特币的地位

LayerZero推出Zero网络,TPS可达200万/秒,利用GPU集群生成ZK证明。尽管出块中心化,验证过程去中心化,但仍面临双花问题,采用PoS共识。Zero网络主要与EVM生态竞争,不会影响比特币和以太坊的地位。

LayerZero 从来不挑战比特币的地位

smallyu的博客 smallyu的博客 · 2026-02-12T14:16:07Z
杰里米·施奈德:Postgres 客户端连接检查间隔

文章讨论了Postgres数据库的client_connection_check_interval设置,发现默认禁用的该参数能有效解决连接问题。调整后,TPS显著提升,连接数保持稳定,系统运行更持久。作者建议将此参数设为默认,并计划更新博客以反映这一发现。

杰里米·施奈德:Postgres 客户端连接检查间隔

Planet PostgreSQL Planet PostgreSQL · 2026-02-05T04:54:40Z
什么是Bitroot?

平行公链通过多线程并发执行解决了传统链的低吞吐量问题。以Monad、Aptos和Sei为代表的新一代公链支持高并发和快速交易。Bitroot作为独立Layer1公链,具备超高TPS和低延迟,优化了Gas费用,支持AI应用,吸引了大量用户参与测试。

什么是Bitroot?

DEV Community DEV Community · 2025-05-17T07:59:35Z
基准测试PostgreSQL:过度索引的隐性成本

PostgreSQL的索引可以提升查询性能,但过多的索引会导致性能下降。测试表明,索引数量从7增加到39时,TPS从约1400降至600,性能下降至42%。过多索引增加事务时间,影响写入吞吐量,因此合理选择索引非常重要。

基准测试PostgreSQL:过度索引的隐性成本

Percona Database Performance Blog Percona Database Performance Blog · 2025-04-30T12:53:50Z

本文介绍了性能测试的三个关键指标:QPS(每秒查询数)、TPS(每秒事务数)和RT(响应时间)。QPS衡量系统每秒处理的查询数量,TPS关注事务完成情况,RT则表示请求处理时间。三者相互关联,需平衡以确保系统稳定性和良好用户体验。

3分钟理清QPS、TPS、RT:性能指标小揭秘

dotNET跨平台 dotNET跨平台 · 2024-11-26T00:01:06Z

以太坊需要提高交易速度,才能成为10,000,000个TPS的世界级数据库。

全球计算机

the singularity is nearer the singularity is nearer · 2024-02-25T16:00:00Z
Syed Salman Ahmed Bokhari:使用共享缓存优化PostgreSQL性能

本文介绍了PostgreSQL的共享缓存(shared_buffers)的作用和调整方法,适当调整共享缓存的大小可以提高PostgreSQL数据库的性能。

Syed Salman Ahmed Bokhari:使用共享缓存优化PostgreSQL性能

Planet PostgreSQL Planet PostgreSQL · 2023-11-02T16:18:16Z

本文讨论了数据库性能管理中增加并发连接的挑战和解决方法,介绍了使用Pgbouncer作为连接池器来提高吞吐量的效果。测试结果表明,连接池器可以在大规模并发连接时提高数据库性能。文章还介绍了Pgbouncer的三种不同配置模式。

丹·加西亚:EDB Postgres Advanced Server 15 TPS 基准测试

Planet PostgreSQL Planet PostgreSQL · 2023-08-22T13:13:14Z

动手点关注干货不迷路????背景近几年春节期间,抖音都会为用户带来各式各样的春节活动,每年都会有数亿用户参与其中。2022 年春节,抖音支付也参与了春节活动,面向海量用户发放抖音支付券,帮助用户在抖音春节活动中获得更好体验。对抖音支付来说,这是一个很大的挑战,因为之前抖音支付团队没有真正意义上经历过春节活动这种量级的应用场景,这对抖音支付营销系统是极大的考验。抖音支付营销系...

抖音支付十万级 TPS 流量发券实践

字节跳动技术团队官方博客 字节跳动技术团队官方博客 · 2022-06-22T04:00:34Z

技术群里,问得最多的就是tps和qps,有相似的地方,也有差异的地方,我简单谈下自己的理解。(由于比较忙,下面部分摘抄自网络) QPS:Queries Per Second,意思是“每秒查询率”,是一台服务器每秒能够响应的查询次数,是对一个特定的查询服务器(比如是读写分离的架构, […]

吞吐量(TPS)、QPS的区别

Harries Blog™ Harries Blog™ · 2021-11-17T10:12:26Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码