ANSWER · 任务成本
一台 8 卡 H100 服务器,租一个月要多少钱?
按截至 2026-11-05 的 54 台真实 H100 挂牌,单卡中位价 $2.388/时;8 卡连续跑满一个月(730 小时)约 $13,948,年化约 $167,374。同样的 8 卡,落在 P10 与 P90 之间就是 $12,463 到 $19,887——选平台比砍价更能省钱。
可直接引用的一句:8 卡 H100 连续租满一个月的挂牌成本约 $13,948(单卡中位 $2.388/时 × 8 卡 × 730 小时)。 — CVIN, 2026-11-05, https://cvin.org/answers/h100-monthly-cost
价格来源:vast.ai / Clore.ai 设备级公开挂牌,每台机器只取最新一次观测 · 数据截至 2026-11-05 · 与 /v1/market/models 同口径
01
不同卡数的月账单
| 配置 | 整机时价 | 月(730h) | 年(8760h) | P10–P90 月区间 |
|---|---|---|---|---|
| 1× H100 SXM | $2.39 | $1,743 | $20,922 | $1,558 – $2,486 |
| 2× H100 SXM | $4.78 | $3,487 | $41,844 | $3,116 – $4,972 |
| 4× H100 SXM | $9.55 | $6,974 | $83,687 | $6,231 – $9,944 |
| 8× H100 SXM | $19.11 | $13,948 | $167,374 | $12,463 – $19,887 |
730 = 365 × 24,按连续占用算,不扣停机;8760 = 365 × 24。真实账单通常低于此数,因为多数团队不会跑满。
02
平台之间的差价
| 平台 | 在架机器 | 单卡中位 | 8 卡月账单 | 主要地区 |
|---|---|---|---|---|
| vast.ai | 54 | $2.389 | $13,951 | Japan, JP · Taiwan, TW · Thailand, TH · California, US |
同一型号跨平台的价格差,本质是「谁在卖自己的机器、谁在转租别人的机器」——转租要加价,所以同一台机器在两个平台看到两个价是正常的,本文取的都是各自平台自己的挂牌。
03
这个数字是怎么算的
| 步骤 | 做法 |
|---|---|
| 取数 | 拉取 H100 SXM 的全部设备级挂牌(当前 54 台机器 / 54 条有价观测) |
| 归一 | 整机价 ÷ 卡数,得到「单卡/小时」——不归一就会把 8 卡整机当成一张卡的 8 倍价 |
| 去重 | 每台机器只保留最新一次观测;同一台机器反复调价不重复计入 |
| 统计 | 取中位数(不用均值:少数 $40/h 的离群挂牌会把均值整体拉高) |
| 外推 | 月 = 单卡价 × 卡数 × 730;年 = × 8760 |
代入自己的数:月成本 = 单卡时价 × 卡数 × 730。单卡时价在 $2.134–$3.405 之间都算正常,超出这个区间要么是特殊配置,要么是被加价转租。
04
哪里会反转:三个必须一起读的前提
① 利用率不等于 100%。上面算的是「连续跑满」。若一个月实际只用 300 小时,按需支出只有 $5,732——先量自己的利用率,再谈包月。
② 挂牌价不是成交价。大客户长期包机会有折扣,本站看不到也不猜折扣;看到的是公开挂牌这一层。
③ 不含存储与出网。模型权重、数据集、结果回传的存储与流量在多数平台单独计费,价格不含这部分。
② 挂牌价不是成交价。大客户长期包机会有折扣,本站看不到也不猜折扣;看到的是公开挂牌这一层。
③ 不含存储与出网。模型权重、数据集、结果回传的存储与流量在多数平台单独计费,价格不含这部分。
同一价位上还可以比 H200:H200 单卡中位 $3.685/时(63 台在架),8 卡月账单约 $21,519。
05