Koog 的模型调用层包含 Prompt、LLM 参数、LLM 客户端、Prompt 执行器和提供商。Prompt 用于表达消息与参数,推荐通过 Kotlin DSL 或 Java builder 创建,支持 system、user、assistant 等消息类型及 Markdown、XML 富文本。LLM 客户端直接对接具体提供商,支持执行、流式、多选、模型列表、嵌入和内容审核。Prompt 执行器提供更高层统一抽象,可管理多提供商、路由、回退、重试、超时和缓存。
Prompt仅改变语义概率,无法保证系统可靠。复杂任务存在语义、状态、环境、目标、执行、安全六类不确定性,需通过工作流构建结构、状态、执行、数据、安全、认知六层防线。Prompt负责理解生成,工作流负责边界与恢复。复杂任务应采用混合架构,硬约束外置,不能只依赖Prompt。
IQuest Research推出IQuest-Q1模型,采用稀疏MoE架构,总参数320B、激活15B。实测中,该模型仅凭提示词即可生成反重力赛车、国庆小游戏等HTML游戏,并能排查RL训练中因多余空格导致的奖励曲线异常。模型参与自身研发迭代,在NL2Repo、CyberGym等基准表现不俗。团队此前提出ModularRSI自进化框架,强调AI应把复杂任务做对做完。
蚂蚁灵波与港科大联合提出Zero-WAM,一种因果视频-动作模型,通过上下文学习实现机器人零样本跨任务泛化。它利用人类视频作为任务描述,并构建HumanGen数据集(含8.6K任务、74.2K人机样本),提出上下文未来片段预测目标,避免模型走捷径,从而从视频中提取任务信息执行未见任务。
本文介绍Hermes Agent的长会话架构,核心是稳定Prompt前缀以命中缓存、分层压缩上下文(保留头尾总结中段)、用SessionDB存储快照,并通过SQLite租约机制防止多进程并发写坏历史。压缩失败时有回退或暂停策略,确保长期会话的可靠性与可恢复性。
本文介绍Suno Style API的对接方法。该API仅需一个prompt参数,用于输入风格提示词,如“A song for Christmas”。通过POST请求发送至指定URL,返回结果中data字段的upsampled_tags即为优化后的风格参数,可用于生成增强歌曲。
阿西莫夫的“机器人三定律”常被误读为理想伦理规范,实则其小说揭示规则在复杂世界中的意外后果。文章通过《转圈圈》《说谎者》等故事,指出规则冲突、概念歧义和指标替代目的会导致失败。现代AI面临类似问题,如OpenAI安全事件。真正安全需靠架构设计,如最小权限、数据指令分离和纵深防御,而非依赖完美prompt。
OpenAI的GPT-5.6成功证明了循环双覆盖猜想,这是图论中的重要问题。该模型通过将问题转化为边标号问题,并利用线性代数方法完成证明。此外,OpenAI分享了详细的提示词,强调清晰的定义、标准的结果和动态调整策略,以提升模型处理复杂任务的能力。这些技巧为未来的AI应用提供了重要参考。
Part 2 of the “UX × AI” series. In the first part of the series, we dismantled the most dangerous myth in the design community right now — that AI is coming to replace the designer. We replaced it...
可口可乐的世界杯广告采用了生成技术,展示了创新的广告制作方式,引发了对广告创意的讨论。
可口可乐与百度合作推出的范志毅数字人,具备实时互动能力,24小时在线,响应时间不到2秒。该数字人能够感知用户情绪,并根据对话内容灵活应对,形象和语音表现高度真实,适应多种场景。这一举措凸显了数字人在品牌营销中的重要性,未来数字人将成为常态,降低内容生产和品牌互动的成本。
本文探讨了AI语音聊天机器人的人设与声线设计,强调了三种主要方法:prompt工程、模型微调和声音克隆。prompt工程适合探索阶段,成本低、迭代快;模型微调提高人设辨识度和一致性;声音克隆确保声线独特性。最佳实践是结合三者,根据项目阶段逐步引入,以提升用户体验和产品差异化。
开发者Eric已加入OpenAI,Repo Prompt将发布开源社区版,取消许可限制。该软件是为macOS设计的AI上下文工程工具,旨在帮助开发者高效构建提示词。未来的维护将依赖开源社区,Eric无法全心投入。
本文介绍了在 Amazon Bedrock 上为 Claude 应用设计的 Prompt Cache 策略,旨在降低输入成本和响应延迟,适用于长上下文应用。讨论了 cache checkpoint 的放置、内容块的定义及其限制,并提出了单个尾部 checkpoint 和三 CP 布局两种策略。建议监控使用情况,以优化性能和降低成本。
作者强调每天写 prompt 的重要性,类似于每天画画。通过不断实践,逐渐掌握技巧,提升思维敏锐度和表达能力。
本文讨论了大模型缓存技术的工程实践,强调通过合理组织Prompt和工具定义来提高缓存命中率。建议使用稳定前缀和动态后缀的结构,避免在稳定前缀中使用动态变量,并确保固定内容版本化。同时,建议建立Prompt Block Registry和缓存观测指标,以实现缓存优化和成本治理,最终目标是构建高效的上下文工程体系,提升模型调用的稳定性和效率。
本文介绍大模型缓存技术的工程实践,核心是“稳定前缀+动态后缀”原则。通过将固定角色、工具定义等稳定内容前置并版本化,动态信息后置,可提升缓存命中率。文章涵盖Prompt结构模板、Tools Schema稳定排序、RAG与多轮对话优化、Context Cache权限管理、Prompt Block Registry建设及缓存观测指标,旨在将缓存收益转化为可治理的工程能力。
字节跳动的Seedream MCP是一个专注于中文的AI画图模型,能够清晰渲染中文文字,解决了其他模型在中文生成中的乱码问题。它适用于国内市场,支持生成多种风格的图像,如国风美学和电商促销Banner,方便项目开发。用户需通过AceData Cloud获取API Token并进行配置。
本文探讨了LLM提示词缓存的重要性,强调其在降低API调用成本中的作用。通过分析Claude Code的案例,指出静态前缀与动态后缀的区别,缓存的有效性依赖于前缀的稳定性。总结了三条规则以保持缓存命中率,并展示了高达92%的命中率和81%的成本节省,强调了缓存设计的重要性。
π0.7是一种新型通用机器人模型,具备强大的组合泛化能力。通过多模态数据和详细上下文标注,该模型能够有效执行多样化任务,并在新任务中展现灵巧技能。它结合了人类视频和机器人自主数据,提升了在复杂环境中的表现。引入子目标图像和任务元数据增强了模型的指令理解和执行能力,使其在多样化数据上训练时表现出色。
完成下面两步后,将自动完成登录并继续当前操作。