工程手记 · 2026-06-30 · 7 min
多模态应用的 3 个「看不见」的成本
做数字人导游和带货视频平台时踩过的坑:转码、轮询、失败重试,才是多模态真正的成本中心。
01 异步任务的三个陷阱
轮询要有退避,失败要有补偿
视频生成动辄 30s 以上,前端轮询必须指数退避。后端要记录 attempt 与最后一次状态,用户刷新页面也能接着看。
- 统一任务模型:queued / running / succeeded / failed
- 结果持久化到对象存储,别放内存
- 失败可重试,重试要幂等
- 前端订阅事件,而不是傻轮询
把模型差异关在网关里
不同厂商的字段、状态码、超时都不同。用一个内部标准接口把差异吃掉,上层只认一种协议,换模型才不痛。