亞馬遜云科技推出自研AI芯片Amazon Trainium
新浪科技訊 12月4日晚間消息,亞馬在亞馬遜云科技2025re:Invent全球大會(huì)上,遜云芯片亞馬遜云科技首席執(zhí)行官M(fèi)att Garman宣布推出全新的科技P6E GB300系列,并正式發(fā)布基于研芯片Trainium3和基于該芯片的推出Trn3 UltraServers服務(wù)器。
他介紹,自研“這些產(chǎn)品(P6E GB300)采用英偉達(dá)最新的亞馬GB300 NVL72系統(tǒng),我們持續(xù)為最苛刻的遜云芯片AI工作負(fù)載提供頂級(jí)算力。我們?cè)谟布?、科技軟件與運(yùn)營層面的推出全棧嚴(yán)謹(jǐn)性,為全球最大的自研企業(yè)提供最佳的可靠性和性能。其中包括英偉達(dá)自己——他們的亞馬大規(guī)模GenAI集群Project Ceiba就運(yùn)行在亞馬遜云科技上;以及像OpenAI這樣的大型機(jī)構(gòu)也在積極使用亞馬遜云科技。這些大型企業(yè)如今都在使用擁有數(shù)十萬顆芯片的遜云芯片EC2 UltraServers集群,目前使用的科技是GB200系列,很快就會(huì)用到GB300系列。推出”
此外,自研Matt Garman還宣布推出Amazon AI Factories?!巴ㄟ^這一發(fā)布,我們讓客戶能夠在自己的數(shù)據(jù)中心內(nèi)部署專屬的亞馬遜云科技AI基礎(chǔ)設(shè)施,供其獨(dú)享。實(shí)際上,AI Factory就像一個(gè)‘亞馬遜云科技私有區(qū)域’,讓客戶利用已有的數(shù)據(jù)中心空間與電力能力,同時(shí)仍然能夠訪問亞馬遜云科技領(lǐng)先的AI基礎(chǔ)設(shè)施與服務(wù),包括最新的訓(xùn)練集群、Nvidia GPU,以及Amazon SageMaker和Amazon Bedrock等服務(wù)?!?/p>
他介紹,AI Factories是為每個(gè)客戶獨(dú)立運(yùn)行的,幫助他們保持物理與邏輯隔離,同時(shí)繼續(xù)享有來自亞馬遜云科技的安全性與可靠性,也能滿足嚴(yán)格的合規(guī)與數(shù)據(jù)主權(quán)要求。
亞馬遜云科技還宣布推出自研AI芯片Amazon Trainium。Matt Garman介紹,Trainium 2目前實(shí)際上是全世界最佳的推理系統(tǒng)之一。他表示,“事實(shí)上,我們?cè)跀?shù)據(jù)中心部署Trainium2的速度,比我們過去部署任何芯片的速度都快好幾倍。是的,這是我們迄今部署速度最快的AI芯片,我們現(xiàn)在的銷售速度幾乎和產(chǎn)能齊平。僅訓(xùn)練芯片這一部分,今天已是一個(gè)數(shù)十億美元規(guī)模的業(yè)務(wù),并且仍在快速增長?!?/p>
此外,亞馬遜云科技在去年官宣布的新一代芯片 Trainium 3,也有了新進(jìn)展,目前Trainium 3 UltraServers 正式可用?!拔液芨吲d地宣布,我們已經(jīng)在全力研發(fā)Trainium4,并且已經(jīng)進(jìn)入深度設(shè)計(jì)階段,對(duì)目前看到的結(jié)果十分期待。與Trainium3相比,Trainium4將在所有維度實(shí)現(xiàn)巨大躍升:FP4計(jì)算性能提升6倍、內(nèi)存帶寬提升4倍、高帶寬內(nèi)存容量提升2倍,以支持全球最大規(guī)模模型的訓(xùn)練需求?!?/p>
海量資訊、精準(zhǔn)解讀,盡在新浪財(cái)經(jīng)APP
責(zé)任編輯:何俊熹
(責(zé)任編輯:綜合)
- 中國首次挑戰(zhàn)火箭入軌回收 專家:允許航天探索在試錯(cuò)中前行
- 《死亡擱淺》登陸迪斯尼流媒體平臺(tái)
- 問界M9L加長版諜照曝光 網(wǎng)友:汽車界的非凡大師來了
- 力壓BBA 穩(wěn)坐40萬級(jí)銷冠寶座!問界M8上市200天 交付破12萬臺(tái)
- 首款豆包手機(jī)賣斷貨 豆包回應(yīng):近期無貨 備貨傳聞不實(shí)
- “泰坦尼克”號(hào)遇難者懷表將拍賣 價(jià)格或超百萬英鎊
- 問界M5被32噸大貨車追尾并沖撞前車:車門正常開 5人都安全
- 斬獲雙11百吋電視全渠道銷量、銷額雙冠 海信做對(duì)了什么
- 新疆阿合奇縣發(fā)生6.0級(jí)地震!喀什、伊寧等地震感明顯 華為小米手機(jī)收到預(yù)警
- 被破解了!所有Win11掌機(jī)都能用上全屏Xbox:不再是XBOX掌機(jī)專屬
- 跟油車一視同仁!英國對(duì)電動(dòng)汽車特權(quán)說不 征收里程稅后:還要交擁堵費(fèi)
- 全民全運(yùn) 跨城來運(yùn)動(dòng)是一種怎樣的體驗(yàn)?
- 中國首次挑戰(zhàn)火箭入軌回收 專家:允許航天探索在試錯(cuò)中前行
- 王自如回應(yīng)被恢復(fù)執(zhí)行1.94億元:烏龍事件、信息不實(shí)
