Fireworks 联合创始人陈宇飞在《硅谷坐标》里称,平台每天处理约四五十万亿 token。几分钟后,他又亲手给这个自报数字踩了刹车。

陈宇飞提到,免费流量会把榜单顶高。除了这层扭曲,模型降价和失败重试也会放大用量,这是我在他的提醒上再往前推了一步。它们都贡献 token,却未必贡献收入。陈宇飞的原话更直白:光看 token 消耗量,“有一点 deceptive”。

一个把推理流量当作业务增长信号的人,主动说流量会骗人。“开源能不能追上闭源”的胜负预测只是行业盘点,陈宇飞自己暴露的矛盾更尖锐:AI 商业正在出现一种错位,使用量可以奔向便宜模型,利润却可能留在敢签合同、能担责任的人手里。

四五十万亿,先别急着换算成收入

节目在两个地方问了相似的问题:Fireworks 的 token 增长有多快,北美客户在开源模型上花了多少钱。陈宇飞愿意回答前一个,却不肯替后一个估数。

这是两种不同的计量。token 记录机器做了多少吞吐,收入记录客户愿意付多少钱。免费额度和促销能制造吞吐;模型价格下降,同一笔预算也能买到更多 token;Agent 在失败后多跑几轮,账面用量增加了,用户得到的结果仍然只有一份,甚至一份都没有。

于是,同一条曲线可以有两种读法。基础设施公司看到需求在扩张,模型公司却要面对单位价格下跌。开源模型吃下更多调用,闭源模型的收入也可能继续增长。陈宇飞把它类比成电力普及:所有人都用上电以后,赚到更多钱的未必还是发电设备公司。

我的判断是,token 正在变成 AI 时代的“发电量”,它能说明基础设施有多忙,说明不了价值最后落在哪一层。 把 token 当作 AI 公司的统一估值尺子,问题和拿快递件数判断电商利润一样:业务确实繁荣,谁赚到了钱仍要另算。

企业需要换一个分母,去算“成功完成一次任务”。完整成本里要算模型调用,也要算失败重试、人工复核、延迟、上线后的故障处理。模型单价降了一半,若为了得到可用结果多跑三轮,成本没有变便宜。

用量越大,越需要追问其中有多少是有效工作。 否则,行业会把免费、失败和返工都记成增长。

企业合同里,买的是谁来负责

既然开源模型便宜,能力差距也在缩小,企业为什么还愿意给闭源模型付溢价?

陈宇飞先拿自己买手机作比方。他觉得一些安卓手机很好用,价格不敏感时仍会买苹果,因为那些零碎的不确定性省掉了。到了企业采购,这种心理会更强。他引用了一句美国 IT 行业的老话:“Nobody gets fired for buying IBM。”

这句话没有一个公认作者,是企业 IT 采购文化中长期形成的俗语。它通常被用来概括采购人的风险分配:选行业默认答案,项目失败还可以解释;选一家便宜的小公司,出了问题,决策者得先解释自己为什么冒险。

Fireworks 自己也在卖这种确定性。陈宇飞说,客户签的是一到两年合同,关心平台上的模型能否持续满足需求。至于 Fireworks 是不是“二道贩子”,反而没有那么重要。采购方买下的是模型、服务承诺和一条出了问题能找到人的责任链。

闭源实验室在这件事上占了先手。它们持续发布能力演示和安全成果,品牌替采购人做了一部分内部说服。即使另一个模型在某项评测上更便宜、更快,负责签字的人仍要问:明年还在不在?故障谁处理?结果错了,合同能约束谁?

于是两件事可能同时发生:开源赢得更多调用,闭源仍拿到利润较厚的订单。前提是企业继续为责任链付费。技术差距按月缩小,组织对责任的转移却按合同周期发生。

闭源模型眼下更厚的一道墙,不在参数里,在采购流程里。

Eval 把品牌选择改成任务账本

采购人的免责权不可能无限贵。企业要打破它,得拥有自己的 eval,再多一张模型排行榜没有用。

Eval 常被翻译成评测,但在企业里,它更接近一套验收制度:什么结果算完成,错误能容忍到什么程度,延迟多高会影响业务,哪些任务必须交给前沿模型,哪些可以切到便宜的开源模型。没有这套制度,团队只能“试一下,感觉还行”,PoC 一旦进入生产,感觉就会变成返工。

陈宇飞把 eval 类比成传统软件的单元测试。过去发布一套数据库或 SaaS,要先跑完一组测试;现在上线一个垂直 Agent,也要通过一组积累下来的任务和评分标准。工具换了,组织仍需要把“做得好”写成可以反复验收的东西。

这也是为什么垂直公司还有机会。前沿实验室需要证明模型能解更广、更难的问题,法律、医疗等公司只需把客户每天遇到的那组问题做深。陈宇飞说,前沿实验室当然有能力集中资源打败一家法律 AI 公司,只是单一行业未必撑得起它的估值目标。两边追求的不是同一张成绩单。

企业一旦有了自己的成绩单,采购关系就会改变。它可以把同一组任务交给不同模型,比较成功率和完整成本,也能拿这些结果去谈路由和切换。真正换模型时还要处理数据、集成和合同,但品牌已不能独占解释权。

节目里有一句带着创业者推销色彩的话:一个工程师把 eval 写好,可能替公司省下自己三五倍的工资。这个倍数只是嘉宾判断,不必照单全收。但方向成立。能够定义验收标准的人,掌握的是模型替换权。

这份权力也有代价。Eval 不是年初写完、年底复用的表格。业务变化、模型更新、客户要求提高,它都要跟着重写。很多企业已经有会调 API 的工程师,仍缺少能把模糊需求变成稳定判据的人。模型选择看似技术问题,最后落到了组织是否清楚自己要什么。

修路的人也会被压价

Fireworks 受益于模型商品化。模型越多,企业越需要统一推理、定制和路由;开源越便宜,流到基础设施层的调用越多。陈宇飞在节目末尾明确判断,开源追上来会削弱模型层的溢价,更有利于基础设施提供商。

可同一套逻辑也会转向 Fireworks。模型可以被 eval 比较,推理平台同样可以。基础路由、缓存、故障切换一旦成为云厂商和开源工具的标准功能,中间层的单价也会被压低。客户会问:为什么还要单独付一层钱?

陈宇飞没有回避这个威胁。他把 Fireworks 形容成偏“二房东”的模式,也说真正需要盯住的对手是大型云厂商,因为云厂商有能力把算力、推理服务和客户关系整条链一起做完。他甚至承认,单看推理优化,自己“没有那么担心”;Fireworks 要守的是从训练、部署到运维的开发者生命周期,以及对客户具体需求的理解。

节目里还有一处没有被追问到底的利益冲突。陈宇飞说,Fireworks 的收入会随客户的推理流量增长,因而比按项目收费的咨询公司更贴近客户成功。至少在 Serverless 推理业务里,这层联系很直接:Fireworks 按 token 计费;专属部署则按 GPU 秒计费。这层对齐有一个前提:客户业务增长带来的有效推理,要快过失败和冗余调用的增长。

客户并不天然追求更少调用;业务扩大时,总调用量也会增长。他们要压低的是每个成功任务的成本。对于按 token 或 GPU 时长收费的平台,失败重试、冗长推理和没有产出的计算同样会变成账单。Fireworks 自己已经指出 token 会夸大价值,也就不能再用推理流量证明双方利益完全一致。客户按任务结果算账,平台按 token 用量或 GPU 时长收钱,而不是按成功任务收钱。 任务成功率持续提高,两张账才会靠近。

这是一条比“速度快多少”更可信的防线,但还不能算稳赢。云厂商也有客户、合同和账单入口;开源路由工具会继续降低基础能力的价格。Fireworks 只有把客户的任务标准、定制数据和生产经验沉淀得足够深,才不会随着模型层一起被压成薄利接口。

Fireworks 给企业的建议,最后也适用于它自己:别用流量证明价值,要用不可替代的任务结果证明。

那张用量表,还缺一列

四五十万亿 token 是一个有意义的数字。如果按 Fireworks 的自报口径,它说明 AI 推理正在成为真实的基础设施负载,也说明 Fireworks 承接了很大的生产推理负载。

但这张表还缺一列:这些 token 最终完成了多少能通过客户验收、值得续约的任务。

用量会涨,模型也会换。企业要留下判断哪次调用值得付钱的能力;平台想留下利润,就得让更多调用变成可验收的交付。

点击“阅读原文”,收听《硅谷坐标》对 Fireworks 联合创始人陈宇飞的完整访谈。