在大模型這個領域,民用級的芯片完全沒有性價比,還不如直接買 Token Plan。這話聽着像抱怨,其實是算術。
賬擺在這邊:五美元一個月的訂閲,一百五十億 token;我一個人一天就能用十億。賬擺在那邊:一張民用卡,幾十 token 一秒地爬,電費、顯存、運維全是自己的。數據中心的輸出價格已經打到兩塊錢一百萬 token,你的卡在書房裏睡覺,人家的卡在跑滿。不是你的卡變慢了,是商品價格跌破了個人自建的成本線。
再看計費單位,這條線索更清楚。以前算力是賣時間的:VPS 一台,一個月,明碼標價。現在算力賣 token。為什麼換單位?因為時間對模型不公平——輸入有長有短,生成有快有慢,按時計費,誰虧誰賺全看運氣;token 貼着實際的計算量走,才像水電錶。你買一塊裸金屬,享受的是上個時代的計價;想要數據中心的價格,中間差的正是池化調度、利用率攤薄那一層魔法。
有人説,買卡是為了隱私,為了離線,為了跑得滿的高負載。對,這就是邊界:跑得滿、要離線、肯運維,買卡才有意義。其餘的場景,買卡是給數據中心捐電費。
顯卡沒有死。死的是"個人在家堆算力"這個位置。算力變成了水電,沒有人家自己發電。