AI基础设施厂商Fireworks AI近日推出名为FireRouter with Opus的新产品，将路由能力从底层调度逻辑中抽离出来，以独立模型形态对外提供服务。这一变化意味着开发者不再需要自行搭建多模型调度层，而是可以直接调用一个serverless端点完成模型选择。

据官方信息，FireRouter with Opus支持在Claude Opus 5.5、GLM 5.3和GLM 5.3 Flash三款模型之间进行路由决策，其核心机制是缓存感知——即根据请求的缓存命中情况来动态选择最合适的模型。这种设计旨在减少重复计算带来的开销，从而压低单位请求的成本。

成本数据方面，Fireworks AI给出的数字是编码任务成本最高可降低57%。对于频繁调用大模型完成代码生成、补全或审查的团队而言，这一降幅直接关系到推理预算的规模。

值得关注的是，FireRouter以独立路由模型形式作为serverless端点开放，在行业内尚属首次。此前多模型路由通常以框架或中间件形式存在，而将其产品化为可独立调用的端点，可能降低中小团队接入多模型策略的门槛，也反映出推理服务竞争正从单一模型性能转向调度效率与成本控制。