工程手记 · 2026-06-30 · 7 min

多模态应用的 3 个「看不见」的成本

做数字人导游和带货视频平台时踩过的坑:转码、轮询、失败重试,才是多模态真正的成本中心。

#多模态#成本#架构

01 异步任务的三个陷阱

轮询要有退避,失败要有补偿

视频生成动辄 30s 以上,前端轮询必须指数退避。后端要记录 attempt 与最后一次状态,用户刷新页面也能接着看。

  • 统一任务模型:queued / running / succeeded / failed
  • 结果持久化到对象存储,别放内存
  • 失败可重试,重试要幂等
  • 前端订阅事件,而不是傻轮询

把模型差异关在网关里

不同厂商的字段、状态码、超时都不同。用一个内部标准接口把差异吃掉,上层只认一种协议,换模型才不痛。