这个月我的模型账单 58 块,服务器 62 块,域名摊下来 6 块 5。盯着那 58 块看了半个钟头,我决定去弄清楚一件事:Hugging Face 到底能不能让一个人做站的成本降下来。
结论先摆在这:模型权重这一块它是真的免费,托管推理这一块它一分钱都不白给。我花了一个周末,把 DeepSeek 和通义千问在 Hub 上的权重、量化版本、账单规则、免费额度全摸了一遍,中间踩了 5 个坑,最后把下个月的账单从 58 块压到 21 块。这篇写我算的那笔账,以及那 5 个坑分别让我浪费了多少时间。
先说我的处境,免得看起来像在替谁站台。我这个 AI 工具导航站 www.7027a.com 是我一个人做的,PHP + MySQL,我既是开发也是客服。一个人意味着没有审批流程,也意味着任何一笔超过 20 块的东西我都得先自己说服自己。我在这站上写过一篇第 11 个月的服务器账单,那篇讲流量和账单的关系,跟模型成本没关系;模型这一块我另外写过DeepSeek R1 的 API 价格实测和5 家 API 供应商的价格核对,这次是把这摊事落到一个具体平台上。
一、先把三条路的账摆出来,别急着上手
网上聊 Hugging Face 基本两种口径:一种说「20 万个模型全免费」,另一种说「免费 GPU 无限用」。两种说法都挺容易把人带偏。我按自己关心的口径重排了一遍,一共三条路。
| 路子 | 谁在收钱 | 我这种量级一个月 | 什么情况下才值得 |
|---|---|---|---|
| 本地跑权重(llama.cpp / Ollama) | 不收钱,收电费和内存 | 0 元 | 调用量小、数据不能出本机 |
| Inference Providers 路由 | 模型供应商原价,HF 不抽成 | 等于直接调官方 API | 已经在用某家 API,想把账单并到一处 |
| Inference Endpoints / Spaces GPU | HF 按秒 / 按小时收 | 起步 $9.6 | 要固定延迟、要 7×24 在线 |
第二条是最容易误会的一条。Inference Providers 的官方文档原话是「Hugging Face charges you the same rates as the provider, with no additional fees」——原价转发,一分不抽。它提供的是「统一入口」,不是「统一折扣」。请求路由过去,付的还是供应商那份钱。所以这条路对我唯一的价值是把几家 API 的账单并成一张表,而不是省钱。
第三条是租 GPU。我拉了今天(2026-11-06)的 Spaces 硬件价目表:Nvidia T4 small $0.40 / 小时,1x A10G small $1.00 / 小时,1x A100 large $2.50 / 小时。按 24 小时常开算,T4 small 是 $9.6,A10G small $24,A100 large $60。我一天的调用量撑不起任何一个常开机位——租 T4 small 一个月,GPU 钱是我 API 账单的 4 倍多。空闲的 Space 会自己休眠,暂停期间不计费,所以「用完就关」确实能省,但真要 7×24 有响应,它还是得开着。
所以对我来说答案很清楚:本地跑 + 官方 API。Hugging Face 真正的价值是「下权重」和「让你看清托管到底多少钱」这两件事,不是「免费托管」。
二、我那 58 块到底花在哪
我一天的模型调用分两类。写稿是 6 次长调用,走 DeepSeek 的推理档,每次喂约 12000 tokens 的上下文、吐 3000 tokens 的长稿;剩下的是站内那 100 多篇文章的摘要、标签、SEO 元数据和问答页,加起来一天 240 次短调用,每次输入 1500、输出 300,走便宜档。
按官方定价算(2026-10-02 核的 DeepSeek 文档,单位是每 100 万 tokens):便宜档输入 $0.15、缓存命中 $0.003、输出 $0.60;推理档输入 $0.66、输出 $1.98。官方还分峰谷,峰时便宜档输入涨到 $0.30、输出 $1.20,正好翻倍。
短调用这一类,一天 240 次是输入 36 万、输出 7.2 万 tokens。谷时算 $0.0972,峰时算 $0.1944——一天就差 9 分 7 厘。写稿那 6 次推理档是 $0.0832。这么一加,谷时一天 $0.18,峰时一天 $0.2776,一个月 30 天就是 $5.4 到 $8.3,折人民币 39 块到 60 块。我账单上显示 58 块,是因为写稿那几篇经常重跑,加上白天高峰占了大半。
关键在这:短调用占了调用次数的 97%,却只占账单的三分之二;真正贵的是那 6 次长调用,可它们一天就 6 次。短调用全是摘要、标签、改写这种脏活,不需要推理链,不需要 671B,7B 量化模型完全够。
三、5 个坑,每个都让我浪费了一小时以上
坑 1:免费账户的 Inference Providers 根本没有赠送额度。官方表格写得很清楚:Free Users 是 None,PRO Users 是 $2.00,Team / Enterprise 是每席位 $2.00。免费账号想调推理 API,要么自己买 credits,要么升级 PRO。我注册完兴冲冲去调,接口直接回一句 "credits purchase required",我第一反应是 token 没传对,翻了半个钟头文档才发现是账号级别的事。更别提那 $2 额度:PRO 是 $9 / 月,$2 额度只覆盖 $2 的算力,等于打了个 2.2 折,而我一个月才用 $5.4——升级 PRO 对我是纯亏。这个坑不烧钱,烧的是「我以为免费」的预期。
坑 2:Spaces 的「免费」有个前提,我是在提交的时候才撞上的。CPU Basic 是 2 vCPU、16GB 内存、50GB 磁盘,价格确实是 Free。但同一份文档里另一句话:创建跑算力的 Space(Gradio 或 Docker)需要付费方案,Static Spaces 才是全员免费。我差一步就在免费 CPU 档上搭了个 demo,提交直接报错。要继续只有两条路:老老实实做静态页,或者升级 CPU Upgrade——8 vCPU、32GB,$0.03 / 小时,常开一个月 $21.6。
坑 3:ZeroGPU 的免费额度是 5 分钟 / 天,不是 5 小时。官方的分档是:未登录 2 分钟 / 天,免费账号 5 分钟 / 天,PRO 40 分钟 / 天,Enterprise 60 分钟 / 天;超出之后按 $1 / 10 分钟 扣。这个配额在 CLI 里是按 GPU 秒算的,hf spaces zero-gpu quota 打出来是 base: 2400(PRO 档 2400 秒,正好 40 分钟)、remaining、resets_at 三行。免费档的 base 就是 300 秒。5 分钟是什么概念?我跑一张 FLUX 图大概 10 秒,5 分钟就是 30 张。我调一个出图参数要试 200 组,还没调完配额就烧光了。我试了一次就明白了——这个额度是给你「验证 demo 能跑」的,不是给你「调参」的。另外免费个人账号要「验证邮箱 + 注册满 30 天」才能自己托管 ZeroGPU Space,最多托管 2 个,PRO 才到 10 个。还有一条硬限制:ZeroGPU 只兼容 Gradio SDK,PyTorch 只支持 2.8.0 到 2.13.0,Python 只有 3.12.12 和 3.10.13,而且不支持 torch.compile。
hf auth login # token 默认落在 ~/.cache/huggingface/token
hf spaces zero-gpu quota # 看自己还剩多少 GPU 配额(单位是 GPU 秒)
hf spaces hardware # 所有可租硬件和价格,一条命令全列出来
hf models ls --search "DeepSeek-R1-Distill" --num-parameters min:1B,max:7B
坑 4:模型的名字和「能跑的那个文件」根本不是一回事。我按 deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 这个官方仓库 hf download 下来的是 safetensors 全套,15GB 上下,我的机器直接 OOM。真正能在本地跑的是社区做的 GGUF 量化版,同一个模型不同量化档差得很远:Q4_K_M 约 4.4GB,Q5_K_M 约 5.2GB,Q6_K 约 6.0GB,Q8_0 约 7.7GB,fp16 约 14.8GB,还有 IQ4_XS 约 3.9GB、IQ2_M 约 2.5GB 这种更激进的。教训很土但很值钱:先看仓库 README 里的量化表,再决定下哪个,别下完再想。
我实测了三个档:Q4_K_M、Q5_K_M、Q8_0。在摘要任务上,Q4_K_M 和 Q8_0 给出的答案几乎没差别,但 Q8_0 慢了三成;Q5_K_M 更慢,答案还是没差别。多花 3.3GB 磁盘换一句「没差别」,不值。
连带还有一个:HF 的命令行改名了。huggingface-cli 已经是历史,0.34.0(2025-07-24)改名成 hf,到 1.0.0 直接把老命令删了。我照老教程敲 huggingface-cli download,shell 回我 command not found。1.0 还把下载后端从 hf_transfer 换成 hf_xet,HTTP 库从 requests 换成 httpx,老的加速参数全对不上。要下 gated 仓库必须先 hf auth login,token 默认写进 ~/.cache/huggingface/token。
坑 5:比老命令更害人的是老的价目表。Spaces GPU 那张表里,Nvidia H100 和 8x Nvidia H100 两行都被划掉了,标注「removed December 2025」。现在能租的最贵是 8x A100 $20.00 / 小时和 8x Nvidia RTX PRO 6000 $22.00 / 小时。我第一版预算表里写的是「按 H100 $3 / 小时 算」,这行字现在连选项都不存在了。做对比表、做报价、写方案之前,先去官方价目表上核一遍版本。
四、顺手拉了一下 Hub 的下载量排行,结果挺反直觉
算账算到一半我好奇去查了 Hub 上今天(2026-11-06)的下载量排名,用的是官方 API 拉的实时数据。
下载量第一名根本不是大模型。sentence-transformers/all-MiniLM-L6-v2,1.8 亿次下载,6071 个赞——这是个嵌入模型,做句向量用的,参数量比任何一个 LLM 都小两个数量级。真·大模型里下载量最高的是 Qwen/Qwen3-0.6B,2174 万次,0.6B 参数。通义千问这一家就占了榜上两个位置,Qwen/Qwen3-14B 是 1293 万次。
DeepSeek 官方仓库里下载最猛的是 DeepSeek-V3.2,714 万次;DeepSeek-R1 是 165 万次下载,但 14434 个赞,是 deepseek-ai 家点赞最高的模型。R1 的蒸馏系列按尺寸分档下载:1.5B 是 72.4 万次,7B 是 32.3 万次,14B 是 22.3 万次,32B 是 34.9 万次。Kimi 那边 moonshotai/Kimi-K3 77.8 万次下载、11939 个赞,今天 Hub 趋势榜第一位是 moonshotai/Kimi-K3.1-Pro,923 个赞。
这组数字给了我一个选型上的判断:下载量高不代表它更强,但代表踩坑的人多,贴过同样报错的人多。7B 的下载量比 14B 高 45%,我最后选 7B 不是因为它更聪明,是因为它出问题的时候,网上有人贴过一模一样的报错。
顺带说一句,这些榜单上的名字大多不是生僻的。通义千问那 4 个模型、深Seek 的 R1 系列、Kimi 的 K3,我在国产大模型 5 款同口径横评里基本都写过,DeepSeek V3 那 30 天的实战记录也单独写了一篇。Hub 这边真正补上的,是「这些模型以什么量化、什么速度、占多少显存」这层信息——那是我选 7B 还是 14B 的唯一依据,API 价格页上可没有。
顺便说一个我在意但很多人忽略的点:这批下载量里,通义千问是 DeepSeek 蒸馏模型的地基。DeepSeek-R1-Distill-Qwen-1.5B / 7B / 14B / 32B 全都是拿 Qwen2.5 当底座蒸馏出来的。所以「用 DeepSeek 蒸馏版」和「用通义千问的模型」这两件事,在 Hub 上经常是同一个文件的两种说法。选型的时候别把它们当成两个阵营。
五、我最后怎么配的
7B Q4_K_M(4.4GB)常驻本地,负责摘要、标签、元数据、问答这几类短活;写稿那种需要推理链路的活儿继续走官方 API;权重从 Hub 下,配置和提示词留在我自己的库里。三条路的取舍我是这么定的:
- 本地跑:短调用 240 次 / 天,光输出就 72000 个 tokens,按 7B 量化 40-60 tok/s 算要 20-30 分钟,输入那 36 万 tokens 的预填充量还更在上面。慢,但不要钱,也不要钱之外的东西。
- 走 API:写稿 6 次 / 天,$2.49 / 月,这部分我不省,省了质量垮掉。
- 租 GPU:暂时不租。我的调用量撑不满一台 T4,而且我需要的不是 7×24,是「每天用 30 分钟」。
下个月的账单按这个配法是 21 块左右,剩下那 21 块几乎全是 6 次写稿调用。降幅 64%。
本地那套我折腾了整整一个周六晚上,步骤不复杂但顺序不能错:
# 1. 装客户端(新版的命令就叫 hf,旧的 huggingface-cli 已经被删了)
pip install -U "huggingface_hub" # 或者 brew install hf
# curl -LsSf https://hf.co/cli/install.sh | bash
# 2. 登录一次,gated 仓库和上传都要用
hf auth login
hf auth whoami
# 3. 只下你要的那一个量化文件,别整仓库拖下来
hf download bartowski/DeepSeek-R1-Distill-Qwen-7B-GGUF \
--include "*Q4_K_M.gguf" --local-dir ./models/dsr1-7b-q4
# 4. 起本地服务,图省事就用 ollama(模型文件它自己管)
ollama serve
curl http://localhost:11434/api/tags
第 3 步的 --include 是关键。我第一次没加这个参数,7B 的量化仓库里 10 多个档位全下来了,磁盘直接少了 40GB,后面还得一个个删。hf cache ls 能列出每个仓库占了多少磁盘(我那次是 35.5G),hf cache prune 清掉没被引用的版本。这两个命令也是 1.0 之后才有的,旧教程里看不到。
第 4 步之后我这边所有的摘要和标签调用都指向本地 11434 端口,写稿那 6 次还是发到官方 API,中间就一个 base_url 环境变量在切。我站点代码里现在只有一行判断,谁便宜用谁。
第 3 步和第 4 步其实是两条路,取决于你要不要控制量化版本:ollama run deepseek-r1:7b 最省事,但它给你什么版本就是什么版本;我要精确卡在 Q4_K_M 这个档(4.4GB),就只能自己从 GGUF 仓库下,再用 llama.cpp 那套跑。我选后者,多花了一个晚上的事。
整套流程我跑了两遍。第一遍卡在 gated 仓库要 token 上,第二遍加了 --include 才对,中间还把 --local-dir 写成了 --local_dir,报错说 unrecognized arguments——这种错不查文档根本猜不到。
我为什么没把写稿也本地化:14B Q4_K_M 要 11GB 显存,32B 要 22GB。我的机器跑得动 32B,但那个速度只有 18-28 tok/s,写一篇 3000 字的长稿要干等好几分钟,而且 8K 上下文一开,KV cache 直接把内存吃穿。收益不抵等待。
六、谁适合,谁不适合
适合的:一个人或者小团队,一天几十到几百次调用,愿意花一个周末把环境折腾明白;数据敏感不能出本机;想同时试几个尺寸做对比。HF 在这三件事上是真好用,权重下起来稳,模型卡的参数写得比大多数博客清楚。
不适合的:要做 7×24 在线服务的(空闲 Space 会休眠);要官方 SLA 的;调用量大的(Inference Providers 原价转发,一点都不便宜,一天几千次调用谁扛得住);团队要权限和审计的——Team 档 $20 / 席位 / 月才有 SAML SSO、审计日志和资源组。免费账号这四样一个都没有。
还有件事得知道:2026-09-03 英伟达宣布以约 129.3 亿美元收购 Hugging Face,目前还在等监管审批,预计 2027 年上半年完成。对我这种小用户不影响现在的价格,但如果你在评估「长期押注这个平台」,这事你得知道。我自己现在的策略是:权重下到本地,配置留在自己手里,API 账单走供应商直连。真出事,换个供应商的客户端改几行就行。这套思路在LiteLLM 那篇网关实战里我展开写过。
七、最后
这 11 个月做站,最贵的一课不是某个工具不好用,是「免费」这两个字从来不是零成本——它是把成本换了个地方付。HF 的免费在权重上,不在推理上;ZeroGPU 的免费在 5 分钟里,不在 5 小时里;免费 CPU 档在静态页面上,不在 Gradio 里。
我把这套配置和账单表整理好了,如果你也在为模型那笔钱发愁,可以对着抄。我的建议就一句:先把你每天的调用拆成「脏活」和「必须动脑」两类,前者本地跑,后者花 API 钱。别一上来就想着省下全部,那不现实,也省不出什么。
你现在还在为哪一笔 AI 开销发愁?评论区说说你每天的调用量和账单,我帮你算算哪种配法划算。
—— 月付1800