内容提要
微软因AI token成本飙升,自7月起为各部门设预算,将默认模型改为更便宜的GPT-5.6,并监控员工使用量,以遏制“Tokenmaxxing”现象。此前硅谷多家公司鼓励员工大量消耗token,导致成本失控,现纷纷转向关注工作成果而非用量。
延伸解读
从鼓励到限制:硅谷AI用量的风向转变
文章显示,硅谷对AI用量的态度在短短几个月内发生了逆转。此前,Meta、OpenAI等公司鼓励员工大量消耗token,甚至设立排行榜进行比拼,将高用量视为福利。然而,随着成本失控,各公司开始收紧政策,从亚马逊关停KiroRank,到Uber、Citi等限制模型使用,共同转向关注工作成果。这一转变反映了企业在激励AI使用与成本控制之间的平衡难题。
成本压力下的模型选择策略
微软将内部默认模型切换为更便宜的GPT-5.6,并设置预算目标,体现了企业在成本压力下对模型选择的务实态度。类似地,Citi要求员工按任务难度选择模型,Adobe取消无限使用Claude。这表明,企业开始意识到并非所有任务都需要最强模型,简单任务使用低成本模型可有效控制支出,同时保持生产力。
Tokenmaxxing的潜在风险:能力退化与质量隐患
文章指出,长期依赖AI可能导致开发者编程能力退化,难以判断代码正确性,且大量AI生成代码可能带来安全与质量风险。这提醒企业,在追求AI使用效率的同时,需关注员工技能保持和代码审查机制,避免因过度依赖而损害长期竞争力。
Q&A
微软为什么从7月开始为各部门设置AI Token预算?
因为AI token成本飙升,微软为了遏制“Tokenmaxxing”现象,控制成本,所以从7月起为各业务部门设置预算,并监控员工使用量。
微软内部默认模型为什么改为GPT-5.6?
因为GPT-5.6比其他模型更便宜,微软为了控制成本,将其设为内部默认模型。
微软针对Tokenmaxxing采取了哪些具体措施?
微软的措施包括:设置AI token预算目标、让员工查看个人token支出、将默认模型改为更便宜的GPT-5.6,并可能根据监控情况施加进一步限制。
什么是Tokenmaxxing?
Tokenmaxxing是token和maxxing的组合,指把AI用量刷到极致,是一种扭曲的激励,把AI用量当成企业内部的KPI。
硅谷公司为什么开始收紧员工的AI使用?
因为激励token用量导致成本失控,例如Atlassian月度AI支出增长三倍,Uber烧光全年预算,所以各公司开始设置支出限制,要求员工控制模型使用成本。
长期依赖AI对开发者有什么负面影响?
多名开发者表示,长期依赖AI后编程能力退化,越来越难判断代码是否正确,而且大量AI生成代码可能带来安全和质量问题。
老板不看token消耗量后,以后看什么?
老板转而关注工作成果,例如Meta将“AI驱动的影响”列为核心工作要求,看员工能否利用AI产生实际影响。