FreeModel

How do LLM gateways compare on price and reliability?

所谓“网关的价格与可靠性”，不是两张可以分开打分的榜单，而是一组互相牵制的结构选择。便宜的路由往往靠回退和免费先试撑着，可靠性则要看厂商出故障、额度用完、请求被限流时到底发生了什么。一个网关的价格结构决定了它在故障时能替你做什么，账单透明度决定了你事后能不能算清这笔账。本文先讲价格与可靠性之间的关系，再按同一口径比较计费结构、回退机制与故障表现，最后说清网关自身的局限。

价格与可靠性为什么不能分开比？

只比价格会漏掉故障成本，只比可靠性会漏掉账单结构。举一个常见的情形：某个路由平时很便宜，是因为它把请求发给了免费额度或低价模型，一旦首选模型限流，它回退到的模型可能更贵、也可能更弱，单次请求的成本和质量同时变了。如果你只看平时价格，就看不到故障那一刻的价格跳变。反过来，一个平时价格不低的网关，如果回退链透明、每次请求实际 served 的模型都可查，故障时的总成本反而可控。所以比较的起点应该是结构：价格是怎么算的、故障时走哪条路、事后能不能复核，而不是一张静态的价格表。

计费结构有哪些，差别在哪里？

网关的计费结构主要有三种，差别不在名字，而在钱付给谁。第一种是厂商直通加平台费用：网关替你合并账单，在厂商价之外收一笔服务费，好处是账单一处可查，代价是长期用量越大，平台费用占比越明显。第二种是带自有密钥的直通：厂商直接向你收费，网关不加价，账单关系仍在厂商那里，网关只提供路由和统计。第三种是免费先试加回退：先用免费额度或低价路由试，额度用完再回退到付费模型，适合验证想法，但不适合当作长期成本承诺。三种结构没有高下之分，关键是下单前读清计费说明：免费额度是按请求数、按用量还是按时间算，超了之后是停掉、降级还是自动转付费，这几句必须在动手前确认。

账单透明度要看什么？

账单透明度看每次请求的成本是否可查、实际 served 的模型是否可见。能按每次请求查到模型名、用量和费用的网关，出了账单争议才有据可查；只能看到月度总数的网关，单次异常很难定位。回退场景下这一点更重要：首选模型失败后回退到的模型，费用可能不同，如果账单上不区分首选和回退，你就无法判断故障到底花了多少钱。选型时做一次小测试：发几次请求、故意触发一次回退，再去账单里找这几条记录，能对上号的网关才算透明。对不上的，要先问清是统计延迟还是根本不记回退明细，再决定要不要把生产流量放上去。

回退机制与限流处理怎么比？

回退机制要看三点：触发条件、回退顺序、回退后的告知。触发条件是模型报错、额度用完还是限流，不同网关的定义不同；回退顺序是服务方定还是你自己定，托管网关通常是服务方定，自托管则是配置里自己写；回退后的告知是网关是否告诉你最终 served 的是哪个模型，告诉了才算可观测。限流处理也一样：有的网关在限流时排队重试，有的直接回退，有的直接报错返回，行为不同，调用方的重试策略也要跟着不同。比较时不要只问“支不支持回退”，要问回退的顺序能不能改、回退的模型会不会比原来更弱、回退失败时返回什么错误，这些才是故障时真正影响你的地方。

延迟与稳定性口径要怎么读？

延迟和稳定性没有统一的公开口径，服务方各自的说法不能直接横向比较。有的统计是平均延迟，有的是中位数，有的只统计成功请求，失败和回退的请求根本不计入。读这类数字时先看口径：统计窗口是多久、包不包括回退和重试、失败请求怎么算。更可靠的做法是自己测：用同一个提示词、在同一时段、经不同网关各发一组请求，记下成功率、延迟分布和最终 served 的模型，自己跑出来的数比宣传页上的数可信。网关不改变底层模型的质量，延迟里的大头往往来自厂商侧，网关能做的是路由选择和重试策略，而不是让同一个模型变快。

服务方是否公开故障信息？

故障信息公开程度是可靠性里最容易被忽略的一项。有的服务方有公开状态页，故障期间会写明影响范围和恢复进度；有的只在出问题后发一条简短通知；有的则什么都不说，你只能从自己的错误率上升里猜。单人开发者尤其要看这一点：没有值班团队时，状态页就是你判断“要不要切走流量”的唯一依据。选型时查一下服务方过去的故障记录怎么写：写明了原因、影响和修复措施的，比只写“已恢复”的更值得信任。同时也要看数据路径：请求经过谁的服务器、服务方是否保留请求内容，这些信息应该在文档里找得到，找不到的要先问清再上生产。

退出成本为什么也算可靠性？

退出成本低的网关，本身就是一种可靠性：服务方知道你随时能走，就不敢在价格和服务上乱来。退出成本看两点：一是客户端格式是不是标准请求格式，是的话换网关就是改接口地址和密钥；二是模型名是不是配置而不是代码，改模型字符串就能换模型，才不算被锁定。把厂商特有字段写进核心代码、把模型名硬编码在多处地方的项目，换网关时要改的地方就多，退出成本也就高。比较网关时顺带看一眼自己的代码：所有调用是不是都走同一个标准接口，是的话，任何网关的退出成本都不高，价格谈判的底气也更足。

免费额度与回退不能等同于什么？

免费额度不能等同于可用性承诺，回退也不能等同于质量保证。免费额度是先试，用完就回到付费或降级，长期跑生产不能按免费额度做预算。回退是在首选不可用时保住“有返回”，而不是保住“同样好”：回退的模型可能更弱、回答风格可能不同、成本也可能更高，依赖回退之前要故意制造一次故障来测试，确认回退后的表现是不是你的业务能接受的。网关的局限也在这里：它不提升弱模型、不改变厂商的限流策略、不替你解决提示词本身的问题。把网关当成“便宜又可靠”的魔法，迟早会在一次故障里失望。

那么，价格与可靠性到底该怎么选？

选的不是最便宜的路由，也不是承诺最多的服务方，而是价格结构透明、故障行为可测、退出成本低的那一种。动手前做四项检查：读清计费结构和免费额度的计算方式；查每次请求的成本和实际 served 模型是否可查；故意触发一次回退，看行为是否和文档一致；确认客户端格式标准、模型名是配置，换网关不用重写代码。通过这四项检查的网关，平时价格也许不是最低，但故障时的总成本是可算、可控、可退出的，这才是价格与可靠性放在一起比较时真正有意义的结论。

来源与延伸阅读：FreeModel 关于页：它是什么、不是什么、FreeModel、实测免费网关对比、十四家网关公开模型清单实读、网关对比、网关排名指南。

Sources