一顆芯片1800W功耗!NVIDIA下代AI服務器液冷就得40萬元
11月6日消息,顆芯如今的功耗AI芯片越發(fā)強大,也越發(fā)“饑渴”,下代微軟CEO納德拉都感慨電力供應已經(jīng)跟不上,服務NVIDIA可謂難辭其咎。器液
根據(jù)摩根士丹利的顆芯最新報告,NVIDIA Blackwell Ultra GB300 NVL72機架式AI服務器系統(tǒng)中,功耗單單是下代液冷散熱組件的價值就高達49860美元,約合人民幣近36萬元,服務這已經(jīng)比GB200 NVL72系統(tǒng)高了大約20%。器液
這還沒完。顆芯
下一代系統(tǒng)的功耗功耗將進一步增加,因此預計Vera Rubin NVL144服務器的下代液冷系統(tǒng)成本將再次增加17%,達到55170美元,服務約合人民幣近40萬元。器液
根據(jù)這份報告,GB300 NVL72服務器包含18個計算托盤,每顆GPU芯片功耗1400W,每個計算托盤的功耗至少6600W,為此需要6200W的散熱能力,單個液冷成本約2260美元,18個總計40680美元。
另外還有9個NVSwitch交換機托盤,單個液冷成本約1020美元,9個總計9180美元。
不出意外,整個液冷散熱系統(tǒng)中,最昂貴的組件是為GPU、CPU定制的高性能液冷板,每個要300美元,還有為NVSwitch交換機定制的冷板,每個也要200美元。
摩根士丹利預計,下一代Vera CPU、Rubin GPU的功耗會更高,其中GPU將高達1800W,還有NVSwitch 6.0交換機也會更耗電,散熱成本也就隨之水漲船高。
其中,每個計算托盤的散熱成本增加18%,達到2660美元,其中更大容量的冷板成本增至400美元,而托盤總量不變,合計47880美元。
好消息是交換機托盤的散熱成本會降低大約15%,每個870美元,合計7830美元。
再往后的Rubin Ultra,將會改為每個GPU封裝內(nèi)集成4個計算模塊、16個HBM4E內(nèi)存模塊,熱設計功耗大幅提升至3600W,從而需要新的液冷板,甚至是浸沒式液冷。
同時,NVIDIA正在準備新的NVL576機架方案,包含多達144顆GPU,比現(xiàn)在多一倍,散熱成本自然會急劇增加。
當然,跟我們沒啥關系……
-
李肖爽:小米汽車改配現(xiàn)車后依然保留原訂單權益震坤行攜創(chuàng)新方案亮相進博會 《行家對話》專場啟幕12TB網(wǎng)盤:迅雷超級會員約10元/月年內(nèi)新低首發(fā)第五代驍龍8至尊版!小米17 Pro Max評測:五年高端之路的集大成者聯(lián)想重磅發(fā)布“AI工廠”解決方案 打造AI應用落地新范式Ultra 7小鋼炮!微星Cubi NUC AI迷你電腦圖賞歷時兩年半 已有210多款中國車搭載高通驍龍數(shù)字底盤震坤行攜創(chuàng)新方案亮相進博會 《行家對話》專場啟幕蔚來通報最新維權進展:多個網(wǎng)絡賬號被判賠償?shù)狼?/a>華碩天選6 Pro游戲本續(xù)航測試:酷睿i7
- ·超頻三RT720 TC系列散熱器首發(fā)259元起:雙塔七熱管 設計簡潔硬朗
- ·Mini LED時代即將終結!MacBook Pro將升級為OLED屏
- ·12TB網(wǎng)盤:迅雷超級會員約10元/月年內(nèi)新低
- ·誰會不愛低溫靜音 性能還更強的!酷睿Ultra 5 230F vs 銳龍5 9600X生產(chǎn)力、功耗、溫度全方位對比
- ·又輕又暖:芬騰綿羊毛+桑蠶絲秋衣套裝49元大促
- ·手動剃須的價值回歸:一場由知乎答主評審團發(fā)起的產(chǎn)品實證
- ·華為HarmonyOS 6來了!10月22日正式發(fā)布
- ·從傳統(tǒng)OS到AI OS:榮耀MagicOS 10以五維進化與生態(tài)共榮開啟行業(yè)智慧新格局
- ·未來三天新一股冷空氣將影響我國北方 局地降溫8度以上
- ·用戶禁止數(shù)據(jù)收集后 掃地機器人竟然被遠程指令“殺死”!
- ·現(xiàn)代汽車設計主管吐槽車載大屏:用來替代按鍵并不合理
- ·石頭洗地機A30 Pro Steam智享版評測:高溫蒸汽加持 清潔更徹底滅菌更高效
- ·海信旗艦顯示器GX正式發(fā)布 三大旗艦電視同源技術實現(xiàn)跨代引領
- ·現(xiàn)代汽車設計主管吐槽車載大屏:用來替代按鍵并不合理
- ·奇瑞越野車成功挑戰(zhàn)橫渡長江:水深20米 姿態(tài)穩(wěn)如船
- ·大爆款!上市41天全新問界M7大定破9萬臺
- ·“云岡石窟大佛凍得流鼻涕” 官方:將暫時封閉 處置滲水
- ·機圈德芙 ColorOS 16正式版推送:首批適配11款機型
- ·七彩虹MEOW喵Book14 Pro輕薄本上市:銳龍AI 7 350 全金屬一體化機身
- ·小米首次殺入中國藍牙音箱銷量榜TOP10 增速超120%
- ·極越破產(chǎn)重整最新進展:百度要撤 夏一平尋求中東資本接盤
- ·華碩天選6 Pro游戲本續(xù)航測試:酷睿i7
- ·8.8元/月:QQ音樂豪華綠鉆年卡105.8元年內(nèi)抄底
- ·史上最強的影像旗艦!vivo X300 Pro評測:越級挑戰(zhàn)的全能神機
- ·努比亞首款大折疊!努比亞Fold發(fā)布:8150元起
- ·連續(xù)三個月被推薦金股 海爾智家為何屢被看好
- ·手伸不進微信 豆包算是踢到鋼板了
- ·別讓加濕器變健康殺手 避開五個誤區(qū)安心過冬
- ·史上最強的影像旗艦!vivo X300 Pro評測:越級挑戰(zhàn)的全能神機
- ·不是說沒藍光就是好 護眼燈這么選才更科學
- ·努比亞首款大折疊!努比亞Fold發(fā)布:8150元起
- ·手動剃須的價值回歸:一場由知乎答主評審團發(fā)起的產(chǎn)品實證
- ·助力品牌迎戰(zhàn)雙十一高峰 順豐智慧供應鏈重塑電商物流體驗
- ·輕游夢工坊攜手騰訊混元3D 共探“人人皆可創(chuàng)作”的新未來
- ·從都市白領到鄉(xiāng)土導演:山西“80后”夫妻歸鄉(xiāng)創(chuàng)業(yè) “土味”短劇拍出億級流量
- ·男子一年多把小米SU7開了22萬公里 電池衰減僅5%
