11月6日消息，顆芯如今的功耗AI芯片越發(fā)強大，也越發(fā)“饑渴”，下代微軟CEO納德拉都感慨電力供應已經(jīng)跟不上，服務NVIDIA可謂難辭其咎。器液

根據(jù)摩根士丹利的顆芯最新報告，NVIDIA Blackwell Ultra GB300 NVL72機架式AI服務器系統(tǒng)中，功耗單單是下代液冷散熱組件的價值就高達49860美元，約合人民幣近36萬元，服務這已經(jīng)比GB200 NVL72系統(tǒng)高了大約20％。器液

這還沒完。顆芯

下一代系統(tǒng)的功耗功耗將進一步增加，因此預計Vera Rubin NVL144服務器的下代液冷系統(tǒng)成本將再次增加17％，達到55170美元，服務約合人民幣近40萬元。器液

根據(jù)這份報告，GB300 NVL72服務器包含18個計算托盤，每顆GPU芯片功耗1400W，每個計算托盤的功耗至少6600W，為此需要6200W的散熱能力，單個液冷成本約2260美元，18個總計40680美元。

另外還有9個NVSwitch交換機托盤，單個液冷成本約1020美元，9個總計9180美元。

不出意外，整個液冷散熱系統(tǒng)中，最昂貴的組件是為GPU、CPU定制的高性能液冷板，每個要300美元，還有為NVSwitch交換機定制的冷板，每個也要200美元。

摩根士丹利預計，下一代Vera CPU、Rubin GPU的功耗會更高，其中GPU將高達1800W，還有NVSwitch 6.0交換機也會更耗電，散熱成本也就隨之水漲船高。

其中，每個計算托盤的散熱成本增加18％，達到2660美元，其中更大容量的冷板成本增至400美元，而托盤總量不變，合計47880美元。

好消息是交換機托盤的散熱成本會降低大約15％，每個870美元，合計7830美元。

再往后的Rubin Ultra，將會改為每個GPU封裝內(nèi)集成4個計算模塊、16個HBM4E內(nèi)存模塊，熱設計功耗大幅提升至3600W，從而需要新的液冷板，甚至是浸沒式液冷。

同時，NVIDIA正在準備新的NVL576機架方案，包含多達144顆GPU，比現(xiàn)在多一倍，散熱成本自然會急劇增加。

當然，跟我們沒啥關(guān)系……