阿里云網(wǎng)絡(luò)基礎(chǔ)設(shè)施團(tuán)隊(duì)近日發(fā)布了一份技術(shù)白皮書，深入探討了超高性能網(wǎng)絡(luò)（UPN512）的技術(shù)架構(gòu)。該架構(gòu)旨在應(yīng)對(duì)人工智能（AI）基礎(chǔ)設(shè)施網(wǎng)絡(luò)發(fā)展過(guò)程中，xPU擴(kuò)展網(wǎng)絡(luò)面臨的諸多挑戰(zhàn)，為構(gòu)建兼具大規(guī)模、高性能、高可靠、低成本及可擴(kuò)展性的xPU擴(kuò)展系統(tǒng)提供切實(shí)可行的解決方案。

白皮書指出，隨著AI領(lǐng)域大模型訓(xùn)練與推理對(duì)計(jì)算和內(nèi)存需求的急劇增長(zhǎng)，AI集群必須通過(guò)高性能網(wǎng)絡(luò)實(shí)現(xiàn)擴(kuò)展。當(dāng)前，MoE架構(gòu)、訓(xùn)推一體化以及xPU規(guī)模的持續(xù)擴(kuò)大等趨勢(shì)，對(duì)網(wǎng)絡(luò)性能提出了全新且更高的要求。在現(xiàn)有的xPU擴(kuò)展系統(tǒng)中，銅互連技術(shù)因成本低廉且穩(wěn)定而被廣泛應(yīng)用，然而其傳輸距離有限，在高密度機(jī)架設(shè)計(jì)方面存在復(fù)雜度高、可靠性差以及擴(kuò)展性受限等問(wèn)題。相比之下，光互連技術(shù)成為實(shí)現(xiàn)更大規(guī)模網(wǎng)絡(luò)擴(kuò)展的必然選擇，但也面臨著成本高、可靠性不足以及高帶寬通信下計(jì)算開(kāi)銷大的挑戰(zhàn)。

針對(duì)上述問(wèn)題，白皮書詳細(xì)介紹了阿里云UPN512架構(gòu)的整體概況。UPN512繼承了高性能網(wǎng)絡(luò)（HPN）的擴(kuò)展網(wǎng)絡(luò)設(shè)計(jì)原則，以“大規(guī)模、高性能、高可靠、低成本、可擴(kuò)展”為核心目標(biāo)，采用了高基數(shù)以太網(wǎng)、LPO/NPO光互連以及單層交換設(shè)計(jì)。與HPN相比，UPN512在GPU帶寬、互連協(xié)議和互連規(guī)模上存在顯著差異，并且能夠與HPN共同組成高性能系統(tǒng)。

在系統(tǒng)設(shè)計(jì)及關(guān)鍵組件方面，白皮書進(jìn)行了深入闡述。系統(tǒng)架構(gòu)上，通過(guò)對(duì)比AI機(jī)架緊密耦合銅互連的優(yōu)缺點(diǎn)，重點(diǎn)介紹了UPN512的單層光解耦系統(tǒng)。該系統(tǒng)采用全光互連技術(shù)，突破了距離限制，支持1K規(guī)模域，解耦設(shè)計(jì)有效降低了系統(tǒng)復(fù)雜度，提升了可靠性與靈活性。在光互連方面，分析了可插拔光模塊、高密度帶寬光互連方案，并對(duì)比了LPO與NPO的適用場(chǎng)景、成本及穩(wěn)定性，指出二者互為補(bǔ)充，可根據(jù)實(shí)際需求選擇。通信語(yǔ)義上，UPN512基于ETH+協(xié)議定義了三種低延遲通信語(yǔ)義，以滿足不同數(shù)據(jù)傳輸需求。在網(wǎng)絡(luò)內(nèi)計(jì)算方面，通過(guò)在網(wǎng)絡(luò)設(shè)備內(nèi)執(zhí)行計(jì)算，加速集體通信，優(yōu)化了對(duì)稱與非對(duì)稱集體通信流程，從而提升了數(shù)據(jù)傳輸效率，降低了計(jì)算資源消耗。

這份白皮書為AI基礎(chǔ)設(shè)施中xPU擴(kuò)展系統(tǒng)的發(fā)展指明了清晰的技術(shù)架構(gòu)方向，提供了具有實(shí)踐價(jià)值的參考，對(duì)于推動(dòng)高性能網(wǎng)絡(luò)技術(shù)在AI領(lǐng)域的廣泛應(yīng)用具有重要意義。