BriefGPT - AI 论文速递 ·

SARATHI：通过分块填充与顺便解码提高 LLM 推理效率

💡 原文中文，约300字，阅读约需1分钟。

📝

内容提要

研究提出了一种名为“思维骨架”的方法，用于降低大型语言模型的生成延迟。该方法通过先生成答案的骨架，然后同时完成每个骨架点的内容，显著提高了速度。研究还展示了提升语言模型以更像人类思考的方式来提高答案质量的潜力。

🏷️

Claude Opus 5.5 与 Opus 5 推理任务对比：更便宜、更快，但并未更强
Anthropic发布Claude Opus 5.5，宣称比Opus 5便宜40%、快30%。作者用三道推理题实测：两者正确率相同，Opus 5.5每题更...
谷歌TPU跑Kimi比英伟达GPU快57%！用的还是DeepSeek推理框架
Inferact团队为谷歌TPU v7开发megakernel推理内核，将数百个小程序合并为一个大程序，消除调度间隙并实现跨层权重预取。16块TPU运行K...
使用LLM自动化归档新版macOS应用图标的过程
作者利用LLM自动归档新版macOS应用图标。以往手动操作需在“显示简介”中复制图标、经预览导出1024像素PNG并命名，处理75个以上应用十分繁琐。LL...
写一个语音编程扩展插件
作者更新语音交互包，提升与 agent 对话的输入效率。支持三种模式：/voice 停顿自动转写、/voice ptt 按住空格说话、/voice aut...
从内核分析到AI的性能工程：Adrian Cockcroft的观点
性能专家Adrian Cockcroft在P99 CONF访谈中指出，P99等百分位指标无法反映现代Web服务延迟的真实分布。响应时间常呈多峰分布（如缓存...
新西兰的季节性工作签证政策(WHV/GWSV/PSV/RSE)
新西兰水果种植季节性强，采摘旺季依赖人工，机械难以保证品质。政府发放季节性签证补充劳动力，农场主以高薪和派对福利留人。各地白领、学生等汇聚乡下采果，形成百...