FreeModel

What is the best free LLM API for a side project?

给副业项目用的免费 LLM API，是指不用先付费就能开始调用模型的接口，而不是指不设上限、可以一直免费用的服务。免费有几种不同的形态：网关先试免费模型、厂商提供的免费档位、新账号赠送的免费额度、以及自己部署的开源网关。副业项目最常见的失败不是选错模型，而是把其中一种免费当成了另一种：免费模型用完了没有回退、免费额度过期了没有提醒、免费档位的限流把演示卡住。先把“免费”到底指什么分清楚，再去比谁更适合你的项目。

应该用什么标准判断免费 API？

先写方法，再列选项，否则很容易被“免费”两个字带偏。第一，分清免费的形态：是每次请求都先试免费模型，还是每月给一笔免费额度，还是某个档位本身免费但有限流。第二，看免费的边界：限流、可用模型、过期规则、以及免费跑完之后会发生什么。第三，看模型质量是否够用：副业项目往往需要一个能写代码、能改文本的模型，而不是只要名字里有“免费”就行。第四，看退出成本：请求格式是不是标准，换付费方案时要不要重写代码。第五，看免费之外的账单风险：要不要绑卡、超了是停掉还是开始计费，这一点必须在动手之前确认。

免费 API 主要有哪些做法？

免费优先路由的网关。 FreeModel 一把密钥对应几十家模型厂商，按任务路由到当前可用的模型，先试免费模型，厂商故障或免费额度用完时自动回退。它的客户端讲标准的 OpenAI 或 Anthropic 格式，换地方就是改一行。对副业项目来说，这个形态的好处是起步不用办一堆厂商账号，坏处也要先讲清楚：免费是“先试”，不是没有上限的承诺，免费模型跑完之后走的是付费回退，而不是凭空继续免费。

带免费模型的托管网关。 OpenRouter 一把密钥、一个 OpenAI 兼容接口，对应几百个模型，其中一部分模型本身免费开放调用，适合做原型和实验。它的长处是模型广、起步快，代价是请求要经过它的服务器，而且免费模型的限流通常比付费模型更严，正式对外之前要先测限流下的表现。

厂商自己的免费档位。 Groq 和 Google 的 Gemini API 都公开提供免费档位，适合已经确定只用一家厂商模型的项目。直接走厂商的好处是路径最短、价格和限流都以厂商页面为准，代价是换一家厂商就要重新集成，副业项目后期想换模型时成本更高。免费档位的具体限流和额度经常调整，动手之前应该以厂商页面和第三方免费 API 对比页的最新数据为准，而不是记一个旧数字。

自己部署的开源网关。 LiteLLM 是一个开源代理，在一百多家厂商前面放一个 OpenAI 兼容接口，带虚拟密钥、预算和回退链。软件本身开源免费，你付的是自己服务器的成本，数据也不经过网关厂商的服务器。它的代价是运维：部署、升级、监控都归你，对只想快速上线一个副业项目的开发者来说，这个成本往往比省下的模型费用更高。

“免费”到底是什么意思？

免费至少有三种意思，混在一起就会踩坑。第一种是“免费模型”：某些模型本身不收费调用，但限流严、排队久，适合实验，不适合对外服务。第二种是“免费额度”：新账号或某个档位给一笔额度，用完即止，过期规则各家不同。第三种是“免费档位”：长期存在但限流和模型范围都受限，适合低频调用。问一个免费 API 好不好之前，先问它属于哪一种，再问它的边界是什么。

免费额度用完之后会发生什么？

这是副业项目最容易忽视的一点。有的服务用完就停掉，不产生账单；有的服务会自动切到付费模型，继续产生费用；有的服务会先试下一个免费模型，再走付费回退。FreeModel 属于第三种：先试免费模型，厂商故障或额度用完时自动回退。动手之前必须确认你选的服务属于哪一种，并且在看板上设好上限或提醒，否则一次意外的流量就可能把“免费项目”变成“付费账单”。

免费模型的质量够做副业项目吗？

够做原型和低频场景，但要按任务分开看。写代码、改文本、做摘要这类任务，免费模型通常已经够用；需要长上下文、复杂推理、多步骤工具调用的任务，免费模型往往会先掉链子。判断方法不是看模型榜单，而是拿你项目里真实的三个任务去跑：一个典型输入、一个边界输入、一个最长输入。如果三个都过关，免费方案就可以先上线；如果边界输入已经不稳，就应该把付费模型留作回退，而不是等用户先发现问题。

免费 API 能扛住真实用户吗？

能扛住低频、能容忍排队的场景，扛不住突发流量和对延迟敏感的场景。免费档位的限流通常按分钟或按天计算，副业项目上线初期往往够用，但被分享转发后的一波流量就可能撞上限。比较稳的做法是：免费模型在前、付费模型做回退、看板上设好上限，并且在产品里对模型失败有降级方案，比如排队重试或提示稍后再试。把“免费”当成起步策略，而不是架构承诺，项目才不会被一次流量冲垮。

选免费方案时还要提防什么？

提防四点。第一，免费清单不能从公开接口数出来，因为那样你无法发现模型什么时候悄悄下线。第二，免费只有说法、没有回退故事，因为免费总会用完，关键是接下来会怎样。第三，请求格式不标准，因为这种格式会把你锁在一个网关上。第四，需要绑卡却没有讲清超额规则，因为这一步是“免费项目”变“付费账单”最常见的入口。把这四点问清楚，再动手写代码。

简而言之，副业项目应该怎么选？

先定免费的形态，再按任务实测三个真实输入，最后把付费回退和账单上限配好。只想快速验证想法，就选免费优先路由或带免费模型的托管网关；已经确定只用一家厂商，就直接走厂商的免费档位；数据不能出自己的网络、或者已经有运维能力，再考虑自托管网关。免费是起步的杠杆，不是长期的承诺，架构上留好付费回退，项目才走得远。

副业项目上线后，免费方案怎么演进？

免费方案上线后，演进路线应该事先想好，而不是等用户来了再临时改。第一步是把免费模型和付费回退的切换条件写清楚：什么情况下走付费、付费的上限是多少、超了是停掉还是降级。第二步是按模型分开统计成本和成功率，哪个模型经常失败、哪个模型成本异常，都要在看板里看得见。第三步是给老用户留出过渡期，换模型之前先小流量验证，再全量切换。演进不是推翻重来，而是让免费起步的架构一步步长出付费能力，中间不断线。

来源与延伸阅读：FreeModel 关于页：它是什么、不是什么、FreeModel、免费 LLM API 对比：免费档位到底给什么、实测免费网关对比、网关对比、网关排名指南。

Sources