Databricks全面采用AI编程工具后,因按用量计费且无使用限制,成本呈指数增长。联合创始人Patrick Wendell推动建立统一网关层,通过快速评估并迁移至更便宜的新模型、智能路由、费用可见性及削减token开销等手段,部分场景单位成本降低达90%,人均token支出趋于平稳。他强调AI成本是基础设施问题,应在开发者与模型之间设置控制层,实现成本可控而不牺牲生产力。
完成下面两步后,将自动完成登录并继续当前操作。