风中有朵Token做的云
1. 预算?什么预算?
按Token用量计费的模式,最大好处是贴近AI弹性使用的特点。用多少就交多少钱,从而让中小开发者的AI调用体验更加经济实惠。
可天底下的事大多是双刃剑,利好中小开发者的潜台词,就是对大型企业来说不一定是好事。
大型政企类用户的AI调用需求大,Token消耗也经常能变成天文数字。对于他们来说,按Token计费的方式不一定划算,而且还暴露出一个极端头疼的问题:预算没法做了。
Token费用本质上是一种IT支出,而大企业的IT支出讲究的是一个成本固定、提前规划、预算卡死。IT部门里很多岗位就是为做预算和控制预算而存在。但按Token付费之后可倒好,IT支出一下变成了高度弹性的不可控因素。业务部门心血来潮攻坚克难了一把,Token账单就有可能在某个夜晚突然爆发出指数级增长。随之而来的就是IT部门一年的云服务预算一晚上就撑爆了。
为了企业用AI,这事咱就认了。于是IT部门求爷爷告奶奶,协调各方关系提升了预算额度。但随之而来的是下个月Token消耗量暴跌,提升的预算全空置了。于是接下来的问题变成了,再之后的AI预算要怎么做?还做不做?到底是IT部门还是业务部门来为AI成本兜底?风风火火一顿爆吵,最后大概率得出一个结论:公有云+AI尚不成熟,建议本土化部署。
没人能提前算账,不光是因为Token的触发方式波谲云诡,还因为云厂商的优惠模式套路颇深。Token的价格都由头部的云厂商和大模型公司说了算,定价非常不稳定。常规套路是一顿价格战,云厂商大张旗鼓地把Token价格打到非常低,等到猪羊进了圈,再把优惠一撤,补贴一减,企业就会被高昂的Token账单钉死在砧板上。今年,我们已经看到诸多热门模型,千Token的价格涨了几十倍甚至数百倍。
小企业可能还好,毕竟灵活机动,Token涨价就不用了,但大企业业务惯性非常大,验证成本极高,中间被云厂商背刺往往只能吃哑巴亏。
云计算在过去的十几年里,一直被认为是更贴近小企业,疏远大企业。而把Token经济作为核心,又一次加重了这个问题。让企业预算形同虚设的AI,大企业是万万不敢碰的。
