京東云近期發(fā)布了一款創(chuàng)新的vGPU智算一體機,該產(chǎn)品在性能上相較于開源方案實現(xiàn)了顯著提升,推理速度提高了50%,且單臺設備即能運行DeepSeek V3/R1大模型的滿血版本。
這款智算一體機依托于京東云自主研發(fā)的算力池化技術和智能推理加速引擎,其強大的性能支持高達千人規(guī)模的并發(fā)處理,而每日運營成本僅需百元,極大地降低了企業(yè)的使用門檻。
具體來說,京東云vGPU智算一體機帶來了四大顯著優(yōu)勢:
首先,硬件成本的大幅降低。企業(yè)無需再額外采購昂貴的高端GPU,單臺智算一體機即可滿足其業(yè)務需求,從而節(jié)省了大量的硬件投資。
其次,部署和運維成本的優(yōu)化。這款設備開箱即用,從硬件上架到AI服務上線,僅需簡單的電源網(wǎng)絡接入和軟件啟動兩步操作,大大簡化了部署流程。
再者,能效比的提升。京東云與廠商合作多年,對硬件進行了深度優(yōu)化和合理配置,使得功耗顯著降低,能效比大幅提升。
最后,算力池化和推理加速。智算一體機預置了京東云的vGPU AI算力平臺能力,實現(xiàn)了整機算力的細粒度管理與優(yōu)化,資源利用率提升至70%以上,推理性能更是提高了50%。
京東云vGPU智算一體機還支持NVIDIA GPU以及多種國產(chǎn)GPU,并通過了互認證,確保了兼容性和穩(wěn)定性。同時,它還支持單機內(nèi)RAID配置,有效降低了數(shù)據(jù)丟失的風險。