跳到主内容
ANSWER · 任务成本

一台 8 卡 H100 服务器,租一个月要多少钱?

按截至 2026-11-05 的 54 台真实 H100 挂牌,单卡中位价 $2.388/时;8 卡连续跑满一个月(730 小时)约 $13,948,年化约 $167,374。同样的 8 卡,落在 P10 与 P90 之间就是 $12,463 到 $19,887——选平台比砍价更能省钱。

可直接引用的一句:8 卡 H100 连续租满一个月的挂牌成本约 $13,948(单卡中位 $2.388/时 × 8 卡 × 730 小时)。 — CVIN, 2026-11-05, https://cvin.org/answers/h100-monthly-cost

价格来源:vast.ai / Clore.ai 设备级公开挂牌,每台机器只取最新一次观测 · 数据截至 2026-11-05 · 与 /v1/market/models 同口径

01

不同卡数的月账单

配置整机时价月(730h)年(8760h)P10–P90 月区间
1× H100 SXM$2.39 $1,743$20,922 $1,558 – $2,486
2× H100 SXM$4.78 $3,487$41,844 $3,116 – $4,972
4× H100 SXM$9.55 $6,974$83,687 $6,231 – $9,944
8× H100 SXM$19.11 $13,948$167,374 $12,463 – $19,887

730 = 365 × 24,按连续占用算,不扣停机;8760 = 365 × 24。真实账单通常低于此数,因为多数团队不会跑满。

02

平台之间的差价

平台在架机器单卡中位8 卡月账单主要地区
vast.ai54 $2.389$13,951 Japan, JP · Taiwan, TW · Thailand, TH · California, US

同一型号跨平台的价格差,本质是「谁在卖自己的机器、谁在转租别人的机器」——转租要加价,所以同一台机器在两个平台看到两个价是正常的,本文取的都是各自平台自己的挂牌。

03

这个数字是怎么算的

步骤做法
取数拉取 H100 SXM 的全部设备级挂牌(当前 54 台机器 / 54 条有价观测)
归一整机价 ÷ 卡数,得到「单卡/小时」——不归一就会把 8 卡整机当成一张卡的 8 倍价
去重每台机器只保留最新一次观测;同一台机器反复调价不重复计入
统计取中位数(不用均值:少数 $40/h 的离群挂牌会把均值整体拉高)
外推月 = 单卡价 × 卡数 × 730;年 = × 8760

代入自己的数:月成本 = 单卡时价 × 卡数 × 730。单卡时价在 $2.134–$3.405 之间都算正常,超出这个区间要么是特殊配置,要么是被加价转租。

04

哪里会反转:三个必须一起读的前提

① 利用率不等于 100%。上面算的是「连续跑满」。若一个月实际只用 300 小时,按需支出只有 $5,732——先量自己的利用率,再谈包月。
② 挂牌价不是成交价。大客户长期包机会有折扣,本站看不到也不猜折扣;看到的是公开挂牌这一层。
③ 不含存储与出网。模型权重、数据集、结果回传的存储与流量在多数平台单独计费,价格不含这部分。

同一价位上还可以比 H200:H200 单卡中位 $3.685/时(63 台在架),8 卡月账单约 $21,519。

05

相关入口

H100 SXM 型号档案 H200 型号档案 A100 还是 H100 训练 70B 要多少钱 回本计算器 全部型号行情