➡️
继续阅读
-
苹果9月9日发布会前瞻
苹果将于9月9日举行发布会，可能推出iPhone 18 Pro系列、首款折叠屏iPhone Ultra，并更新Apple Watch和AirPods。基础...
-
Suno 歌词生成 API 对接说明
本文介绍Suno歌词生成API的对接方法。该API通过输入prompt（如“A song about winter”）自动生成歌词，支持default和r...
-
2026年可用的5个免费LLM API提供商
本文介绍了五个提供免费LLM API的服务商：GroqCloud（高速推理）、OpenRouter（多模型试用）、Cloudflare Workers A...
-
2026 09 06 HackerNews
2026-09-06 Hacker News Top Stories # Anthropic 团队用 Claude AI 在11天内完成了费马大...
-
推理服务的缓存与调度：前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级，因此设计围绕复用展开：单实例内通过块哈希实现前缀缓存；KV池采用writ...
-
显存账本：每张卡上住着什么，搬走付什么
本文介绍训练大模型时显存管理的通用记账方法。显存分为五类：权重、梯度、优化器状态、激活和通信缓冲。前三类由参数量和并行度决定，激活随输入长度增长，优化空间...
