Claude Haiku 5.5:新特性解析与构建快速低成本AI工作流的实践指南
内容提要
Anthropic发布Claude Haiku 5.5,定位为最便宜、最快的小模型。相比4.5版,上下文扩至100万token,输出上限128K,支持自适应思考,10万token以内价格降至每百万输入/输出0.10/0.50美元。文章介绍用Python构建分类、抽取和子代理等低成本工作流,并提醒迁移需去掉temperature等参数、按类型读取内容块。该模型适合高并发简单任务,复杂代理编程仍宜用Sonnet或Opus。
延伸解读
迁移旧代码的四个关键改动
从Haiku 4.5迁移到5.5时,代码层面有四个必须调整的地方:一是不能再传temperature、top_p或top_k,否则直接报错;二是不能用assistant预填充来引导回复;三是手动思考的budget_tokens参数已失效;四是自适应思考默认开启,回复可能以思考块开头,且思考token计入max_tokens。此外,安全分类器可能拒绝请求,需处理stop_reason为"refusal"的情况。
价格降幅的实际折扣
虽然Haiku 5.5的标价相比4.5大幅下降,但实际节省并没有标价显示的那么多。新模型使用了新的分词器,同样文本会被计为约多30%的token。Anthropic综合分词器影响和约10%请求超过10万token的情况后,给出的平均节省约为75%。因此,在估算成本时,不能简单按标价比例计算,而应结合自身文本的token膨胀情况来评估。
子代理模式:省钱的关键在分工
文章演示的子代理模式中,Haiku作为工作器并行处理窄任务,而由Sonnet或Opus作为主代理汇总结果并生成最终答案。节省成本的核心在于主代理只读取工作器生成的简短摘要,而非完整文档。同时,使用信号量限制并发数可避免触发速率限制。这种模式适合文档摘要、信息抽取等可拆分的重复性工作,但复杂代理编程仍建议使用更大模型。
选型建议:先测再升
文章建议对高并发、窄任务优先使用Haiku 5.5,例如分类、路由、抽取、摘要和子代理工作。但不要仅凭公开基准做决定,而应使用自己的真实数据样本,对比Haiku、Sonnet和Opus在准确率、延迟和成本上的表现。只有在结果不达标时,才升级到更大模型。对于复杂代理编程,Anthropic明确表示更大模型仍是更好选择,基准差距也印证了这一点。
Q&A
Claude Haiku 5.5 相比 Haiku 4.5 有哪些主要升级?
上下文窗口从 200K 扩展到 1M token,最大输出从 64K 提升到 128K token;新增自适应思考(adaptive thinking)并支持 effort 设置;10 万 token 以内价格降至每百万输入/输出 0.10/0.50 美元(原为 1.00/5.00 美元);最小可缓存提示从 4,096 token 降至 512 token;在 GDPval-AA、OSWorld 2.1、Humanity's Last Exam、Terminal-Bench 4.0 等基准上均有大幅提升。
从 Haiku 4.5 迁移到 Haiku 5.5 时,代码需要做哪些修改?
需要去掉 temperature、top_p、top_k 参数(发送会报错),去掉 assistant prefill(会报错),去掉手动 thinking 的 budget_tokens(会报错);自适应思考默认开启,响应可能以 thinking 块开头,需按块类型读取文本;thinking token 计入 max_tokens,需预留空间;还需处理 stop_reason 为 "refusal" 的情况。
如何用 Python 和 Claude Haiku 5.5 构建低成本的分类与抽取工作流?
安装 anthropic SDK 并设置 ANTHROPIC_API_KEY;使用 messages.create 并传入 output_config 参数,其中 format 指定 json_schema 约束输出结构,effort 设为 low 以减少思考开销;max_tokens 设为 1000 左右以容纳 thinking token;检查 stop_reason 是否为 refusal 或 max_tokens;按 block.type 为 text 读取内容并解析 JSON。文章提供了分类和发票抽取的完整示例代码。
什么是子代理模式,如何用 Haiku 5.5 实现?
子代理模式让较大的模型(如 Sonnet 5.5)作为主导者决定任务并撰写最终答案,多个 Haiku 5.5 工作器并行处理狭窄、重复的任务。实现时用 asyncio.gather 并发调用 Haiku 工作器,用 Semaphore 限制并发数,工作器返回摘要和成本,主导模型只读取摘要而非全文,从而节省成本。文章给出了完整的异步代码示例。
Haiku 5.5 适合哪些场景,什么时候应该改用 Sonnet 或 Opus?
适合窄任务、高并发或有人等待的场景:分类、路由、抽取、摘要、压缩和子代理工作。复杂代理编程仍应使用 Sonnet 5.5 或 Opus 5.5,因为大模型在基准测试上明显领先。建议在每个高并发步骤先试用 Haiku,用真实数据抽样测试,仅在效果不足时升级。
Haiku 5.5 的实际成本节省有多少?定价和 tokenizer 变化如何影响费用?
10 万 token 以内列表价降至每百万输入/输出 0.10/0.50 美元,超过 10 万 token 为 0.50/2.50 美元。但 Haiku 5.5 使用新 tokenizer,相同文本约多计 30% token,综合考虑 tokenizer 和约 10% 超过 10 万 token 的请求后,Anthropic 称平均节省约 75%。以 300 输入/30 输出 token 的分类调用为例,每千次调用 Haiku 5.5 约 0.045 美元,Sonnet 5.5 约 0.90 美元,Opus 5.5 约 1.80 美元。