内容提要
Modus是一家获得1000万美元融资的初创公司,推出“上下文仓库”平台,自动从GitHub、Jira等系统持续挖掘企业运营数据,生成动态技能简报,供AI代理按需使用。其目标是为AI提供准确、更新的业务上下文,减少大型模型处理琐碎任务的开销,从而降低成本,提升效率。
延伸解读
上下文仓库:数据仓库的下一步?
Modus提出的“上下文仓库”概念,旨在填补数据仓库之上的空白:数据仓库管理数据,但缺乏对业务逻辑和上下文的系统化管理。Modus通过持续挖掘GitHub、Jira等工具,动态生成技能简报,为AI代理提供精准上下文。这反映了企业AI落地的新趋势:模型能力不再是瓶颈,如何高效提供准确上下文成为关键。
降低大模型成本的关键:预处理上下文
Modus强调,前沿大模型在处理任务时,常将大量token浪费在检索和筛选无关信息上,如翻阅PR或Jira工单。其方案是预先用小型模型和搜索、向量数据库等工具,在后台持续构建上下文简报,让大模型只接收精炼后的信息。这能显著减少token消耗,降低成本,同时提升响应效率。
持续维护上下文:比初次构建更难
Modus联合创始人指出,构建上下文本身已具挑战,但更困难的是随着业务变化持续维护其准确性。Modus通过持续学习和监测系统变化,确保只向代理提供最新且相关的上下文。这提醒企业,AI系统的有效性依赖于动态更新的上下文管理,而非一次性配置。
Q&A
Modus是什么?它获得了多少融资?
Modus是一家初创公司,正式退出隐身模式,获得了1000万美元的种子轮融资,由Insight Partners领投,Soma Capital和包括Cyera、Wix.com创始人在内的天使投资人参投。
Modus的“上下文仓库”是什么?它如何工作?
Modus构建的“上下文仓库”是一个位于公司现有数据仓库旁边的层,持续映射业务在系统中的运作方式,并在AI代理需要时提供相关的上下文片段。它通过Context Miner从GitHub、dbt、Jira、Snowflake和Postgres等来源爬取相关资产,持续学习业务运作,然后由Context Composer实时生成简短的技能简报,在代理执行任务时提供。
Modus如何解决AI代理上下文维护的挑战?
Modus通过持续学习公司业务变化来维护上下文。其Context Miner持续运行,根据内部逻辑决定挖掘什么、以何种频率挖掘、如何查找差异以及何时深入。当业务发生变化时,Modus确保只有相关且更新的上下文被提供给代理,从而解决了上下文维护的难题。
Modus如何帮助企业降低AI成本?
Modus通过减少大型模型处理琐碎任务的开销来降低成本。它使用小型语言模型、搜索引擎、向量搜索和图数据库在后台持续进行上下文检索和整理,而不是在提问时进行。这样,昂贵的前沿模型只接收完成特定任务所需的简洁简报,避免了在无关任务上浪费token。
Modus的目标客户是谁?
Modus的目标客户包括工程团队、CTO办公室、研发副总裁,以及数据团队和新兴的AI团队。这些团队通常负责组织中的AI赋能,确保AI在组织内规模化应用。
Modus的创始背景是什么?他们为什么创立这家公司?
Modus的联合创始人兼CEO Daniel Shimoni和CTO Tomer Mesika分别来自数据驱动公司Lusha和Cyera。他们在不同工作中遇到了类似的问题:如何将各种数据资产整合到一个地方供AI使用。他们意识到模型能力不再是瓶颈,而是上下文访问,因此决定共同创立Modus来解决这个问题。