英偉達(dá)正式發(fā)布號稱“AI工廠的操作系統(tǒng)”的Dynamo,其為“分布式推理服務(wù)庫”,本質(zhì)上是針對用戶需求token與無法生產(chǎn)足夠token之間問題的開源解決方案,黃仁勛展示推理圖表,X軸為用戶每秒的Token數(shù),Y軸為工廠每秒的Token數(shù),在Dynamo、GraceBlackwellNVlink72超級芯片加持下,Blackwell相比Hopper可實現(xiàn)25倍性能提升,在推理模型中,Blackwell性能是Hopper的40倍,黃仁勛打趣有上述最新技術(shù)加持,搭建AI工廠的廠商“買得越多、省得越多”。
備注:數(shù)據(jù)僅供參考,不作為投資依據(jù)。
掃碼下載
免費看價格