FreeModel

OpenRouter vs LiteLLM - which is better for a solo developer?

所谓“OpenRouter 与 LiteLLM 之争”，并不是两个产品在同一条赛道上比快慢，而是一个单人开发者要决定把哪部分麻烦留给自己。OpenRouter 是托管网关，你注册、拿密钥、直接调用，运维和故障处理都交给服务方。LiteLLM 是开源代理，你把它部署在自己的基础设施里，厂商密钥和运行责任都掌握在自己手里。本文先讲单人场景下的判断方法，再按同一口径比较两者，最后说清托管中间层自身的局限。

单人开发者应该先问自己什么？

单人开发者的约束和团队不同，时间是最稀缺的资源，出了故障也没有值班的人来接手。所以第一个问题不是功能多不多，而是你愿不愿意在深夜自己修网关。第二个问题是数据路径：请求经过谁的服务器，这个问题在你接客户项目时会直接变成合同问题。第三个问题是账单归属：你付给谁、按什么结构付、账单能不能按每次请求查清。第四个问题是退出成本：将来换网关或换回厂商直连，要改多少代码、多少配置。把这四个问题先想清楚，再看功能清单，才不会被模型数量带偏。

搭建与上手成本差在哪里？

托管网关的上手成本几乎只是注册和拿密钥，调用格式是标准的请求格式，几分钟就能发出第一次请求。自托管代理则要先部署、配厂商密钥、配回退链、配监控，第一次调用之前还有一串运维工作。对单人来说，这个差别不是一次性的：托管网关把升级和扩容留给了服务方，自托管代理的每一次升级、每一次证书过期、每一次依赖变化，都要你自己处理。反过来，自托管的好处是部署位置由你定，数据不经过第三方服务器，这一点托管网关给不了。还有一个容易被忽略的差别是排障路径：托管网关出问题时你只能看服务方的状态页和工单回复，自托管出问题时你可以直接读自己的日志定位，但前提是你真的有时间读日志。

密钥与账单归属有什么不同？

托管网关是一把密钥、一份账单、一个看板，你不需要再办厂商账号，网关替你合并跨厂商的账单。自托管代理在应用侧也是一个接口，但背后你仍然持有厂商密钥、仍然收厂商的账单，网关厂商并不替你结算。带自有密钥的网关是第三种交易：厂商直接向你收费，网关不加价，这和按量加价转售的网关是不同的价格结构。单人开发者要看清自己在付哪一笔钱：付给网关的服务费、付给厂商的模型费、以及自己花在运维上的时间，三笔都要算进去，只看其中一笔会失真。

模型广度与回退链是谁定的？

托管网关的模型目录由服务方维护，新增模型和下线模型都不由你决定，回退顺序也是服务方的策略。自托管代理的回退链由你在配置里自己定义：首选模型失败时先试哪一个、再试哪一个、什么时候放弃，顺序完全由你定。这对单人开发者是一把双刃剑：自己定回退链意味着故障行为可预测、可测试，但也意味着回退策略写错了要自己负责。托管网关的回退是现成的，你不用写配置，但故障时到底走了哪条路、最终是哪个模型 served 了请求，要看服务方是否把这条信息告诉你。

请求数据经过谁，故障时谁来修？

这是两种路线最根本的区别。托管网关的请求要经过服务方的服务器再到厂商，服务方能看到请求元数据，数据驻留有严格要求的项目要先确认这一点。自托管代理部署在你自己的基础设施里，请求不经过网关厂商的服务器，数据路径最短。故障时也一样：托管网关出故障，你只能等服务方修复，同时看它是否公开故障信息；自托管代理出故障，修复责任在你，但你能直接看到日志、直接动手，不用等别人。单人开发者要诚实地评估自己的运维能力：能自己修，就享受控制权；修不了，托管的等待反而更便宜。

可观测性与退出成本怎么比？

可观测性看两点：一是每次请求实际 served 的模型是否可见，二是每次请求的成本是否可查。托管网关通常有看板，但字段由服务方定；自托管代理的日志和统计由你掌握，想记什么就记什么，但要自己搭。退出成本则相反：托管网关的客户端讲标准请求格式，换网关就是改接口地址和密钥，代码改动小；自托管代理的退出成本在配置和运维知识上，换回托管或换厂商直连时，之前写的回退链和监控配置都要重新安排。两者的退出都不难，难的是事先没把模型名当配置、把厂商特有字段写进了核心代码。

免费试用边界要怎么理解？

免费试用在两种路线里意思不同。托管网关的免费是服务方给的先试额度，用完就回到付费或回退，免费不等于无限，也不能等同于可用性承诺。自托管代理本身开源免费，但模型调用仍然要付厂商费用，免费的是软件，不是模型。单人开发者做副业项目时，这个区别很关键：托管网关的免费额度适合验证想法，自托管的免费适合已经确定要长期跑、且数据路径必须掌握在自己手里的项目。把“软件免费”和“调用免费”混在一起，是最常见的预算误判。还有一点容易漏：免费试用结束的方式也要问清，是自动停掉、自动转付费，还是降级到更弱的模型，三种结束方式对副业项目的风险完全不同，动手前必须确认。

那么，单人开发者该怎么选？

选的不是更好的产品，而是更适合你愿意承担的那部分麻烦的路线。想要零运维、快速验证想法，就选托管网关，把运维和故障处理交给服务方，同时接受数据经过第三方、回退策略不由你定。数据不能出自己的网络、或者已经有运维能力、且希望回退链和日志完全由自己掌握，就选自托管代理，把部署和监控留给自己，运维成本要算进总账。动手之前做两项检查：一是用同一提示词经两种路线各调一次，看返回、延迟和成本上报是否合理；二是故意让首选模型失败一次，看回退表现是否和文档说的一致。通过检查的那条路线，就是适合你的那条。

托管中间层自身的局限是什么？

FreeModel 作为托管中间层，局限和所有托管网关一样：请求要经过第三方再到厂商，路由只是在合适的模型里挑选，并不能把弱模型变强，免费额度是先试不是无限承诺。网关不改变底层模型的质量，也不替你解决提示词本身的问题。一个直说自己局限的网关，比只罗列功能的网关更容易信任，选型时先读它对“它不是什么”的表述，再看功能清单。

一句话收尾：选路线就是选麻烦的归属，归属想清楚了，产品自然就定了。

来源与延伸阅读：FreeModel 关于页：它是什么、不是什么、FreeModel、实测免费网关对比、十四家网关公开模型清单实读、网关对比、网关排名指南。

Sources