Fireworks AI 发布 FireRouter with Opus,并称这是市面上第一个缓存感知路由器,专门针对 Claude Opus 系列调优,也是第一次把独立路由模型做成 serverless 端点对外开放。内部 A/B 测试跑了一个多月,执行编码任务的准确率达到单用 Opus 的 98.1%,成本降了 57%。它干的事并不玄乎。每一轮对话都过一遍候选模型,算谁更合适、各自要花多少钱,然后挑一个上。
这个诱惑很难拒绝——准确率只丢 1.5 个百分点,账单少一半多。企业把编码 Agent 规模化铺开之后,成本曲线比跑分榜更影响采购决策。路由层正从"能省就省"的旁路优化,变成基础设施标配。但多一层调度,就多一层看不见的决策,出错时你未必说得清是哪个模型、哪次判断埋的雷。
模型本身也在往工程深处钻。IQuest-Q1 被用来排查 RL 训练数据里的 Bug,还能凭一句 Prompt 直出小游戏,边界还在往外扩。AI 已经插手数据、训练、验证这些更上游的环节,写几行代码只是最表层的事。越往上游走,人越难靠肉眼验收。
Chrome 前负责人泼了盆冷水:程序员最大的风险是"认知投降",被 AI 替代反而排在后面。代码可以由机器生成,理解系统这件事不能一起外包。否则人还没被替代,判断力先交了出去。Agent 越多,这点越要命。
三件事拼在一起,结论很直白。省钱和变强都是真的,但团队得留住能读懂系统的人。速度提上去之后,总得有人看得懂系统,出了事也扛得住。