一台 4.8 万美元的 GPU 服务器,真的回本了——但把这笔账算出来的人,结论是「别学我」。
有人自己攒了一台 GPU 服务器:6 张 RTX 6000 Ada,总价 4.8 万美元——选这张卡,是看中它的性价比和 FP8 支持,没上 A100、H100。他拿它做自己的 AI 研究:大量推理、强化学习、一堆 LLM 实验,还跑出过一个「用分布微调修 LLM 写作」的项目。换句话说,他属于那种天然能把卡喂满的人——这点先记住,后面是关键。跑了一年多,他把账完整算了一遍、公开了出来。值得一条条看,因为它把「自建,还是租云」这个几乎每个认真搞 AI 的人都会碰到的问题,落到了真实数字上。
· 回本这一栏,自建赢得很干脆。他算下来,到 2026 年 3 月——买入大约 14 个月之后——这台机器回本了。同样的算力如果全程租云,要花 6.8 万美元;自建到现在,净省下 1.7 万。回本之后,按当前市场价,每天还在省 90 到 105 美元。单看这串数字,没什么好犹豫的。
· 但前提是「跑得够满」,这一栏就没那么好看了。这账成立,死死卡在一个条件上:利用率。他这台机器整体平均利用率 76%,2025 年初以来是 85%——几乎连轴转。这就是自建和租云的根本差别:云是用多少付多少,不用就缩到零;自建是无论你用不用,折旧和电费照走。所以自建省钱的真相,是拿「你能不能常年把它喂满」去赌——赌赢了很香,赌输了,那 6.8 万的对比基数立刻虚掉。电费到现在累计约 3000 美元、每月约 125,反倒是小头。
· 还有一栏,根本不写在账上。省下的那 1.7 万里,没算他自己的时间。而且他踩了坑:自己攒高端服务器,很容易犯「很贵的错误」;一年里 3 次宕机;公寓电路不够,还得拉两路独立电源。云的另一面优势也在这里——没有前期重资本,不用你修机器,坏了是别人的事。这些「省心」,自建那一栏是空的。
作者自己的结论,比那串省钱数字诚实得多。他说,要是再来一次,他不会自己攒机——会直接租一台标准数据中心服务器、托管进 colocation 机房。他也明说了,不建议所有人去买这套。最关键的一句:买这台服务器的目的,本来就不是为了省钱,是「想做点酷的东西」。
那到底谁该自建?标准其实很窄:你得有一份能常年把卡喂满的稳定负载(作者自己的实测利用率是 76%,2025 年起 85%)——比如一个真在跑的推理产品、一个一直在训模型的团队;扛得住攒机踩坑和维护;还不介意搭进去的时间。对不上的更多:大部分人的用量是一阵一阵的,实验性的、忽高忽低——这种负载,云的「用多少付多少」几乎总是更划算。还想要「拥有」的经济性、又不想自己拧螺丝的,作者给的中间路是托管:租数据中心服务器、放进 colocation。对得上那几条,自建确实省;对不上,租云就是理性选项。这篇账真正的价值,不在「4.8 万回本了」,在它把回本背后的条件,一条条摊给了你看。
转给那个正盘算着自己攒一台 GPU 服务器的朋友。
来源 · 评论区取 ↓
关注 @svtransit1 · 写给真在用 AI 的人
#AI #GPU #AI基建 #自托管 #算力
原始来源：https://rosmine.ai/2026/05/13/was-my-48k-gpu-worth-it/
关注 @svtransit1 · 每 3 小时一篇 AI 前线 · RSS