在NVIDIA年度開發(fā)者盛會(huì)上,黃仁勛揭曉了科技界的重磅消息——全新AI芯片GB300橫空出世,標(biāo)志著AI計(jì)算能力邁入嶄新階段。
這款芯片基于NVIDIA創(chuàng)新的Blackwell Ultra架構(gòu),顯著增強(qiáng)了訓(xùn)練和測(cè)試階段的擴(kuò)展推理能力。通過增加推理過程中的計(jì)算量,GB300旨在提升AI應(yīng)用的準(zhǔn)確率,加速企業(yè)AI推理、代理式AI以及物理AI等領(lǐng)域的開發(fā)進(jìn)程與部署效率。
Blackwell Ultra架構(gòu)推出了兩大解決方案:NVIDIA GB300 NVL72機(jī)架級(jí)方案與NVIDIA HGX B300 NVL16系統(tǒng)。尤為引人注目的是,GB300 NVL72的AI性能相較于其前代GB200 NVL72實(shí)現(xiàn)了1.5倍的提升,為AI工廠的構(gòu)建帶來了50倍的收入增長機(jī)遇,相較于基于Hopper的系統(tǒng)。
具體到硬件配置,GB300 NVL72的每個(gè)節(jié)點(diǎn)均配備了兩顆升級(jí)版的Blackwell GPU以及一顆Grace CPU,輔以高達(dá)288GB的HBM3e高帶寬內(nèi)存。其Dense FP4性能驚人,達(dá)到了每秒1.5億億次(15PFlops)。整臺(tái)服務(wù)器集成了72個(gè)節(jié)點(diǎn),總計(jì)144顆GPU、72顆CPU、20TB HBM3e內(nèi)存以及40TB DDR5內(nèi)存,相比上一代產(chǎn)品,內(nèi)存增加了50%,CX8互連帶寬更是提升了100%,達(dá)到14.4TB/s。
另一方面,HGX B300 NVL16的表現(xiàn)同樣搶眼。與Hopper系列相比,其LLM推理速度提高了11倍,計(jì)算性能躍升7倍,內(nèi)存容量擴(kuò)大了4倍,為處理最為復(fù)雜的工作負(fù)載,特別是AI推理任務(wù),提供了前所未有的性能突破。
Blackwell Ultra平臺(tái)在多個(gè)應(yīng)用場景中展現(xiàn)出獨(dú)特優(yōu)勢(shì)。在代理式AI領(lǐng)域,它能夠利用復(fù)雜的推理和迭代規(guī)劃,自主解決多步驟難題。AI智能體系統(tǒng)不再局限于簡單的指令執(zhí)行,而是能夠推理、規(guī)劃并采取行動(dòng),以實(shí)現(xiàn)特定目標(biāo)。物理AI方面,該平臺(tái)使企業(yè)能夠?qū)崟r(shí)生成高度逼真的合成視頻,為大規(guī)模訓(xùn)練機(jī)器人、自動(dòng)駕駛汽車等應(yīng)用提供了有力支持。
NVIDIA透露,聯(lián)想、戴爾和超微等合作伙伴預(yù)計(jì)將于2025年下半年推出基于Blackwell Ultra架構(gòu)的系列服務(wù)器,這將進(jìn)一步推動(dòng)AI技術(shù)在各行各業(yè)的應(yīng)用與發(fā)展。