在大模型这个领域,民用级的芯片完全没有性价比,还不如直接买 Token Plan。这话听着像抱怨,其实是算术。
账摆在这边:五美元一个月的订阅,一百五十亿 token;我一个人一天就能用十亿。账摆在那边:一张民用卡,几十 token 一秒地爬,电费、显存、运维全是自己的。数据中心的输出价格已经打到两块钱一百万 token,你的卡在书房里睡觉,人家的卡在跑满。不是你的卡变慢了,是商品价格跌破了个人自建的成本线。
再看计费单位,这条线索更清楚。以前算力是卖时间的:VPS 一台,一个月,明码标价。现在算力卖 token。为什么换单位?因为时间对模型不公平——输入有长有短,生成有快有慢,按时计费,谁亏谁赚全看运气;token 贴着实际的计算量走,才像水电表。你买一块裸金属,享受的是上个时代的计价;想要数据中心的价格,中间差的正是池化调度、利用率摊薄那一层魔法。
有人说,买卡是为了隐私,为了离线,为了跑得满的高负载。对,这就是边界:跑得满、要离线、肯运维,买卡才有意义。其余的场景,买卡是给数据中心捐电费。
显卡没有死。死的是"个人在家堆算力"这个位置。算力变成了水电,没有人家自己发电。