5 美元起步的模型阶梯：先跑 100 次，再花钱升级

01 / 每月 5 美元先切成四条预算线

预算小的时候，最容易犯的错是把 5 美元当成一次性试玩费：随手挑一个看起来最厉害的模型跑一下午，钱花完了还没搞清楚自己的任务到底需要什么质量。正确的切法是先分成四条互不挪用的线：0.5 美元做摸底，2.5 美元跑主任务，1 美元留给失败样本重跑，1 美元留作余量。你会很快发现，省钱的关键不是砍单价，而是砍掉无效请求。

记账单位不要用「次」，要用 token。CheapRelay 按真实 token 计费，缓存读写同样计入，没有月费也没有订阅，所以你的成本上限就是 token 总量乘以你在账单上看到的实际单价。以一个中文问答任务为例：输入 1200 token、输出 300 token，一次就是 1500 token 上下；每天跑 30 次，一个月大约 135 万 token。这个具体数字比「感觉很贵」有用得多，因为它能直接换算成你要不要砍请求数。

再把每日 token 上限写进脚本：达到上限就拒绝新的非必要请求。预算小的时候，这条熔断线比任何调优技巧都管用，因为它先把最坏情况锁死在几块钱以内。

02 / 先用便宜档跑 100 次并存下失败样本

第一档只用最便宜的可用模型做 100 次真实请求，目的不是拿到最好结果，而是把失败的样子记录下来。摸底阶段不要优化提示词，不要急着换模型，你要的是一张能看的失败清单。

每条记录至少保存这六项：

• ■ 输入摘要，50 字以内，能看出任务类型即可
• ■ 模型名和当时的参数设置
• ■ 完整输出，尤其是被截断或格式崩坏的部分
• ■ 失败类型：格式、深度、理解、上下文还是超长
• ■ 输入、输出、缓存读写的 token 数
• ■ 你打算怎么修，一句话写完

100 次跑完，你会知道失败集中在哪儿。如果大部分是 JSON 断掉、字段缺失这类格式问题，那根本不该升级模型，该改的是输出约束；如果答案方向就错了，才轮到模型能力的问题。这一步的价值在于把「我觉得不够好」变成「这 17 条是深度不够」，钱花在哪里因此变得可讨论。

03 / 四个信号决定要不要升一档

升级要有触发条件，而不是情绪。下面四条可以直接照抄成你的判断规则：

• ■ 格式类失败：换措辞、加输出示例、限制长度，三次以内能修好就不要升档。
• ■ 深度类失败：答案方向对但太浅、缺少关键步骤或推理链，这是升一档最正当的理由。
• ■ 上下文类失败：长文档前后矛盾、漏掉前文约束，先做结构化摘要和缓存，其次才考虑升档。
• ■ 重复类失败：同一任务连续三次不同措辞仍然失败，直接把它交给更高档，别再耗时间。

升档前先做一次重放：挑出 20 条失败样本，用高一档跑一遍，数一数通过几条。如果只通过 2 条，说明问题在提示词和任务拆分，不在模型；如果通过 15 条，那这次升级的钱花得值。重放这一步是整套阶梯里性价比最高的动作，因为它用几十条请求避免了一整月的错误投入。

04 / 换档只改模型名：SDK 与 CLI 的两处配置

一次只升一档，改动通常只有模型名。用 OpenAI SDK 时只改 model 字段；用 Claude Code 或 Gemini CLI 时，改配置里的模型名和路由：OpenAI 兼容请求走 /v1，Gemini 原生请求走 /v1beta。CheapRelay 一个 key 就能覆盖这些模型，所以换档不需要再管理第二份余额，也不用重写请求代码。

换档当天保留双跑：同一条输入分别打两档，各存一份输出，挑十对样本对照。看清楚高价档多出来的是更完整的步骤、更稳的格式，还是仅仅更长的文字。多数新手会发现，真正值得升档的只是某一类任务，于是阶梯就成型了：便宜档跑批量，高一档跑难例，最高档只处理失败重跑。这样既保住质量，又不把 5 美元一次性烧光。

05 / 缓存读写也计费：按天复盘五列账单

缓存读写同样按真实 token 计费，这是很多新手账单突然翻倍的原因。把一段固定的系统提示反复发送看起来省事，实际上每次都在计入成本。预算紧的时候，压住重复上下文比换模型省得更多。

• ■ 每天固定时间看一次用量，把缓存读、缓存写、输出三类分开统计。
• ■ 固定不变的规则放在前面，变化内容放后面，尽量提高缓存命中。
• ■ 不要整段重复粘贴历史对话，只保留完成当前任务必需的上下文。
• ■ 给单个任务设 token 上限，用长度约束截断跑飞的输出。

复盘表格五列就够：日期、请求数、token 总量、失败数、当日成本。连续记七天，你会看到自己的真实单价，也会看到哪一天因为缓存写入突然变贵。把这个数字拿回预算表，5 美元怎么分配就不再是拍脑袋。

06 / 一张 5 美元的示例分配单与升级顺序

下面是一张示例分配单，数字是预算比例，不是价格承诺，请按你账单上的实际单价换算：

• ■ 0.5 美元（10%）：摸底 100 次，用 Gemini 2.5 Flash 这类便宜档，只做失败分类。
• ■ 2.5 美元（50%）：主任务留在便宜档，批量跑，格式问题在提示词层修。
• ■ 1 美元（20%）：失败样本重跑，用 Claude Haiku 4.5 升一档做对照。
• ■ 1 美元（20%）：余量，留给临时任务、缓存写入和长上下文。

按这个节奏跑满一个月，账单上最贵的那一行通常不是主任务，而是你没注意到的缓存写入和重复上下文。把这些压住，省下来的钱比反复换服务更实在。现在就注册 CheapRelay，拿到自己的 API key，从第一周的 100 次便宜档请求开始跑。

还有一条对预算紧的人有用：邀请朋友之后，他们付费的 20% 会作为奖励回到你这里，可以直接抵下个月的请求成本。把阶梯跑熟、把失败样本攒起来，你的钱就只花在真正需要更高质量的那十几条请求上。