风

2 分钟

聚合全网免费大模型额度的思路与实践

大模型的免费额度有个特点:单看不够用,合起来很可观。这篇文章聊聊怎么把散落各处的免费额度聚合成一个可用的"模型底座"。

免费额度的几种来源

按获取门槛从低到高,大致分四类:

类型 例子 特点
免注册通道 AI Horde、部分 Playground 零门槛但限速、不稳定
开发者免费层 Groq、Cloudflare Workers AI、Gemini AI Studio 注册即送,速率有限额
订阅附带额度 各类 IDE/CLI 的 AI 助手免费层 质量高,但常限"仅限其产品内使用"
活动/教育计划 新用户赠金、学生包 量大,但有时效

需要特别提醒:第三类(订阅附带)往往在 ToS 里写了"仅限其 CLI/IDE 内使用",绕过限制拿去开 API 属于灰色操作,风险自担。

聚合的核心:统一网关

思路很简单——在所有通道前面加一层自建网关:

  1. 每个通道作为一个 provider 接入网关,填上各自的凭证;
  2. 网关对外只暴露一个 OpenAI 兼容接口(/v1/chat/completions);
  3. 请求进来后由网关做路由:按模型能力、速率、剩余额度挑一个可用通道;
  4. 单个通道撞了限制(402/403/429)自动 fallback 到下一个。

对上层应用(编码工具、聊天客户端、你自己的产品)来说,它看到的只是一个"永远有额度的模型",模型名甚至可以只填一个 auto。

真实产出

我把 5 个免注册通道接进自建网关跑了一周日常任务,粗算下来:

  • ~16 亿 tokens/月 的名义额度池(各家宣传额度加总);
  • 日常编码、问答、翻译类任务完全覆盖,一周只遇到 2 次限流,重试即恢复;
  • 编码场景建议固定走 best-coding 路由组,比 auto 稳定。

下一步

网关只是底座。接下来我会把它接到自己的产品上:小工具用它的 API,中转服务拿它当上游。到时候继续在这里公开数据和代码。

一句话总结:免费额度是零成本的原料,网关是厨房,产品才是菜。