英偉達(dá)在SC24超算大會上推出了兩款全新的AI硬件產(chǎn)品，為AI計算領(lǐng)域帶來了新的突破。此次發(fā)布的硬件包括H200 NVL PCIe GPU和GB200 NVL4超級芯片，兩款產(chǎn)品均針對特定的市場需求進(jìn)行了優(yōu)化。

針對那些機(jī)架電力供應(yīng)有限且采用空氣冷卻的數(shù)據(jù)中心，英偉達(dá)推出了H200 NVL PCIe GPU。這款A(yù)I計算卡采用了PCIe AIC形態(tài)，專為低功耗風(fēng)冷環(huán)境設(shè)計。盡管其TDP功耗從H200 SXM的700W降低到了600W，但HBM內(nèi)存容量和帶寬依然保持在141GB和4.8TB/s的高水平。H200 NVL還支持雙路或四路的900GB/s NVLink橋接器互聯(lián)，使得多卡之間的數(shù)據(jù)傳輸更加高效。

英偉達(dá)強調(diào)，H200 NVL的內(nèi)存容量是前代產(chǎn)品H100 NVL的1.5倍，帶寬也提升了1.2倍，從而實現(xiàn)了1.7倍的AI推理性能提升。在HPC應(yīng)用中，其性能也高出30%。這樣的性能提升對于需要處理大量數(shù)據(jù)和復(fù)雜計算任務(wù)的企業(yè)來說，無疑是一個巨大的福音。

除了H200 NVL之外，英偉達(dá)還推出了面向單服務(wù)器解決方案的GB200 NVL4超級芯片。這款超級芯片將2個Grace CPU和4個Blackwell GPU進(jìn)行了聚合，形成了一個強大的計算單元。其HBM內(nèi)存池容量高達(dá)1.3TB，相當(dāng)于兩組GB200 Grace Blackwell超級芯片的組合。然而，這樣的性能提升也帶來了更高的功耗，整體功耗達(dá)到了5.4kW。

與上代GH200 NVL4系統(tǒng)相比，新的GB200 NVL4在模擬性能上提升了2.2倍，AI訓(xùn)練性能和AI推理性能也分別提升了1.8倍。這樣的性能提升使得GB200 NVL4成為了處理大規(guī)模數(shù)據(jù)和復(fù)雜計算任務(wù)的首選解決方案。據(jù)英偉達(dá)透露，GB200 NVL4超級芯片將于2025年下半年正式上市，屆時將為企業(yè)帶來更加高效和強大的計算能力。