做了个 AI API 网关，起因是被视频模型的 API 折磨了两个月

拿铁换美式 · 2026-08-01T02:45:31.975Z

前面讲的坑都是真踩过的，哪怕你完全不用我最后弄的东西，那部分应该也值几分钟。起因我做的是 AI 视频和图像内容，不是写业务系统的。这行有个特点：模型换代太快，你上个月调好的那套提示词，下个月新模型出来就得重写一遍。今年上半年我手上同时挂着这些：Seedance 用来做实拍质感的短片，Kling 拍人物动作，Veo 拍带音频的，Seedream 和 GPT Image 出图，Grok Imagine 用来试风格。每出一个新模型我都得跟一遍，不然内容窗口就错过了。一个新模型刚上线的那一两周，同样的作品在社交平台上的播放量能差好几倍，等所有人都会用了就没人看了。于是我的项目变成了这样：五家供应商，四套鉴权方式（有的 Bearer，有的自定义 header，有的要签名），三种异步任务协议（有的返回 task_id 让你自己轮询，有的给 webhook，有的两种都给但字段名不一样），五个后台要分别看余额。真正让我受不了的是一次半夜。我排了一批片子跑，凌晨三点起来看进度，发现有一家的余额在第七个任务的时候用完了，后面十几个全失败，而失败返回的 HTTP 状态码是 200——错误信息藏在 body 里一个我没解析的字段。那一晚白跑。那次之后我开始想，能不能只用一个 key、一套请求格式、一个余额。中间试过的方案先说不成立的路，省得重复走。自己写抽象层。我写过，两百来行，一开始挺爽。撑不住的是异步任务这块——文生视频是长任务，各家的轮询语义、超时、失败重试全不一样，抽象层越写越像在维护五个独立客户端，只是套了个统一的外壳。真正花时间的地方一点没省。用 LiteLLM 这类框架。对文本模型是好用的，路由和 fallback 都成熟。但我需要的是视频和图像，这类模型的支持要么滞后要么没有，新模型上线一两周内基本别指望，而那一两周恰好是我最需要它的时候。每家官方 SDK 各用各的。最诚实的方案，也是最费人的。我算过，只是「跟一个新模型」这件事，从注册、实名、充值、读文档到跑通第一个请求，平均要小半天。一个月来三个新模型，就是一天半没了。我踩过的几个具体的坑这几个跟用什么方案无关，做视频生成都会撞到。一，15 秒是硬墙。现在主流视频模型单次生成基本卡在 5 到 15 秒。想要更长的只能接——用上一段的尾帧当下一段的首帧。抽帧别用播放器截图，用 ffmpeg 取最后一帧： ffmpeg -sseof -0.1 -i seg1.mp4 -vframes 1 -q:v 1 tail.png -sseof -0.1 是从结尾往前 0.1 秒开始取。直接取最后一帧有时会拿到编码器补出来的重复帧，接上去会有一下停顿。二，提示词写太满，小道具会被稀释。我一开始信「描述越详细越好」，写满一百多个词，结果画面主体是对的，但手里那个关键的小物件时有时无。后来的做法是：主体动作和那个必须出现的道具放在最前面，环境描写压到后面，能删就删。密集场景本来就比空背景更容易失败，别再加负担。三，异步任务要退避，别定频轮询。定频轮询在任务排队长的时候会白烧掉很多请求配额。 import time def wait_task(client, task_id, max_wait=600): delay, waited = 2, 0 while waited r = client.get_task(task_id) if r["status"] in ("succeeded", "failed"): return r time.sleep(delay) waited += delay delay = min(delay * 1.5, 30) # 上限 30 秒，别一直翻倍 raise TimeoutError(task_id) 还有一点：别只看 HTTP 状态码。有的供应商失败也返 200，错误在 body 里。我那晚就是这么栽的。四，角色一致性靠单画布，不靠多图。想让同一个角色在多个镜头里长得一样，别丢一堆参考图进去。把角色的正面、侧面、背面拼成一张图（contact sheet），当成一张参考图传。同一画布里的多视角比多张独立图稳定得多，模型是在一张图内部做关联，不是跨图对齐。五，色偏会毁掉整条管线。不同模型的默认色调不一样，同一个片子里混用两个模型的片段，剪在一起会有一处很明显的跳色。要么整条片子只用一个模型，要么最后统一过一遍调色。这个坑发现得晚会很贵，片子都剪完了才看出来。六，计费直觉是错的。文生视频的成本主要跟时长和分辨率挂钩，跟提示词长度几乎无关。所以调试阶段别急着上 1080p，先用最低分辨率把构图和动作确认对了再升。我前期在这上面浪费的钱，比后来正式出片花的还多。最后我做的东西试完上面那些，我把自己那套东西整理成了产品，叫 Velokey，一个统一的 AI API 网关。一个 key 调 100 多个模型，接口是 OpenAI 兼容的，意思是你现有代码基本不用改，只换 base_url 和 model： from openai import OpenAI client = OpenAI( api_key="你的 velokey key" base_url=" https://velokey.ai/v1 " ) resp = client.chat.completions.create( model="kling-v1" messages=[{"role": "user", "content": "生成一段赛博朋克风格的街道视频"}] ) #起因是被视频模型