摩爾線程近日宣布了一項(xiàng)重要的技術(shù)進(jìn)展,其自主研發(fā)的訓(xùn)推一體計(jì)算卡MTT S4000成功通過了中國(guó)信息通信研究院的AI芯片與模型適配驗(yàn)證項(xiàng)目。這一成果標(biāo)志著MTT S4000與杭州深度求索公司研發(fā)的DeepSeek-R1 671B大模型在推理場(chǎng)景下的適配結(jié)果達(dá)到了“AI芯片和大模型通過性適配要求”。
據(jù)官方透露,MTT S4000在測(cè)試過程中表現(xiàn)出色,不僅實(shí)現(xiàn)了穩(wěn)定、正常的運(yùn)行,還完全滿足了推理使用的各項(xiàng)需求。因此,摩爾線程成功獲得了由中國(guó)信通院頒發(fā)的檢測(cè)證書。目前,該系列計(jì)算卡正在進(jìn)一步優(yōu)化性適配驗(yàn)證工作,預(yù)計(jì)將在未來(lái)公布更多相關(guān)結(jié)果。
MTT S4000是摩爾線程基于全功能GPU架構(gòu)專為大型模型設(shè)計(jì)的訓(xùn)推一體通用計(jì)算卡。它支持包括FP64、FP32、TF32、FP16、BF16和INT8在內(nèi)的多種計(jì)算精度,并配備了高達(dá)48GB的高性能顯存。憑借摩爾線程自研的MTLink 1.0技術(shù),MTT S4000能夠?qū)崿F(xiàn)多卡互聯(lián)和千卡集群部署,為大型模型的訓(xùn)練、微調(diào)和推理提供強(qiáng)大的算力支持。
除了強(qiáng)大的計(jì)算能力,MTT S4000還具備圖形渲染、視頻編解碼和超高清8K HDR顯示能力,能夠滿足人工智能、科學(xué)計(jì)算和多媒體處理等復(fù)雜場(chǎng)景的需求。這使得MTT S4000在多個(gè)領(lǐng)域都具有廣泛的應(yīng)用前景。
摩爾線程表示,此次能夠快速完成DeepSeek R1-671B大模型的適配驗(yàn)證,主要得益于其完善的MUSA生態(tài)軟件棧和快捷的開發(fā)實(shí)踐。這包括vLLM-MUSA推理框架、MUTLASS和Triton-MUSA等組件,它們共同為MTT S4000提供了強(qiáng)大的軟件支持。
摩爾線程還推出了搭載MTT S4000的MCCX DeepSeek大模型一體機(jī)。這款產(chǎn)品深度融合了國(guó)產(chǎn)全功能GPU、深度優(yōu)化的高性能推理引擎和軟件棧,全面支持從蒸餾版到671B參數(shù)全量版的DeepSeek模型部署需求。據(jù)稱,該一體機(jī)能夠靈活適配廣泛的行業(yè)、場(chǎng)景和應(yīng)用,為用戶提供更加便捷、高效的解決方案。