在湖北武漢,百度AI開發(fā)者大會Create 2025盛大啟幕,以“模型的世界,應(yīng)用的天下”為主題,匯聚了眾多業(yè)界精英與開發(fā)者。百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖在會上分享了百度智能云在智能基礎(chǔ)設(shè)施建設(shè)領(lǐng)域的最新進展,并發(fā)布了一系列算力、模型及應(yīng)用方面的創(chuàng)新產(chǎn)品。
沈抖指出,大模型的高效落地離不開從底層算力到應(yīng)用的全棧、系統(tǒng)級支持。百度智能云憑借多年在大模型研發(fā)與產(chǎn)業(yè)應(yīng)用的深厚積累,打造了新一代系統(tǒng)級智能基礎(chǔ)設(shè)施,旨在為企業(yè)提供最佳的大模型應(yīng)用解決方案。
數(shù)據(jù)顯示,百度智能云在2024年全年大模型相關(guān)中標項目數(shù)、行業(yè)覆蓋數(shù)以及央國企中標項目數(shù)方面均位居榜首,尤其在能源、政務(wù)、金融三大行業(yè)的中標項目數(shù)領(lǐng)先所有廠商。截至目前,百度千帆平臺的企業(yè)用戶數(shù)量已超過40萬,組件數(shù)量突破1000個,企業(yè)在平臺上已開發(fā)出超過100萬個應(yīng)用。
沈抖強調(diào),系統(tǒng)的價值不僅在于解決單一問題,更在于賦予企業(yè)創(chuàng)造的能力。企業(yè)可以結(jié)合自身的數(shù)據(jù)、流程和邏輯,利用百度智能云的系統(tǒng)級能力,打造專屬的AI基礎(chǔ)設(shè)施。
在算力方面,百度智能云通過自研的昆侖芯P800芯片及百舸大規(guī)模推理加速能力,實現(xiàn)了算力性能與成本的雙重突破。會上,百度正式點亮了昆侖芯P800的三萬卡集群。招商銀行等金融機構(gòu)已基于昆侖芯P800展開算力合作,在智能客服、多模態(tài)數(shù)據(jù)分析等場景實現(xiàn)了效能顯著提升。昆侖芯P800算力已在國家電網(wǎng)、中國鋼研等央企,以及同濟大學(xué)、北京大學(xué)等高校和一批互聯(lián)網(wǎng)企業(yè)進行了規(guī)模化部署。
為了進一步降低算力使用成本,百度智能云正式發(fā)布了昆侖芯超節(jié)點。該超節(jié)點支持將64張昆侖芯AI加速卡置于同一機柜,實現(xiàn)單節(jié)點的超強性能,一個機柜即可媲美過去100臺機器的性能。與以往方案相比,昆侖芯超節(jié)點通過更快的機內(nèi)通信替代機間通信,有效降低了帶寬成本,實現(xiàn)了卡間互聯(lián)帶寬提升8倍、單機訓(xùn)練性能提升10倍、單卡推理性能提升13倍,并降低了95%的成本。
百度智能云還全面升級了百舸推理加速能力,通過大規(guī)模分布式推理的PD分離,支持客戶根據(jù)不同場景的業(yè)務(wù)特點自適應(yīng)設(shè)置PD配比,并做到token級別的PD負載均衡。針對MOE模型,百舸實現(xiàn)了大規(guī)模多機專家并行的極致優(yōu)化,大幅降低了MOE模型推理的通信開銷,并對核心鏈路上的每一個細節(jié)進行了系統(tǒng)級工程優(yōu)化,大幅提升了GPU的有效利用率。
在模型服務(wù)與應(yīng)用開發(fā)方面,百度千帆平臺提供了超過100個模型,包括文心4.5Turbo、文心X1 Turbo等百度自研模型,以及DeepSeek、Ilama、Vidu等第三方模型。同時,千帆平臺還提供了全面的模型開發(fā)工具鏈,支持深度思考模型、多模態(tài)模型的定制與精調(diào)。以智聯(lián)招聘為例,該平臺利用千帆的模型蒸餾工具鏈,在人崗匹配場景中實現(xiàn)了小參數(shù)模型效果媲美大模型,并降低了30%的成本。
在應(yīng)用開發(fā)層面,千帆平臺全面升級了企業(yè)級Agent開發(fā)工具鏈,并發(fā)布了全新推理式智能體——智能體Pro。該智能體從快問快答升級到深思熟慮,并支持企業(yè)定制專屬智能體。以污水寶為例,基于千帆Agentic RAG能力,智能體能夠結(jié)合企業(yè)私域數(shù)據(jù)和企業(yè)知識庫,制定檢索策略,大幅降低模型幻覺。同時,智能體Pro還支持Deep Research深度研究模式,能夠自主完成復(fù)雜任務(wù)的步驟規(guī)劃、信息篩選和整理,支持探索式知識收集、繪制圖標和撰寫專業(yè)報告。
百度智能云還正式發(fā)布了國內(nèi)首個企業(yè)級MCP服務(wù),首批已有超過1000個MCP Servers供企業(yè)及開發(fā)者靈活選擇。開發(fā)者可以在千帆上開發(fā)自己的MCP Server,并發(fā)布到MCP廣場,享受免費托管服務(wù)。百度搜索也會索引這些MCP Server,使它們被更多開發(fā)者引用。
在金融領(lǐng)域,民生銀行與百度智能云合作,探索大模型在商業(yè)銀行的落地應(yīng)用,成功完成了金融領(lǐng)域第一個端到端涵蓋算力、平臺、模型、應(yīng)用四層架構(gòu)的項目。而在百度內(nèi)部,千帆平臺作為算力底座,為40萬客戶提供服務(wù),上線以來推理吞吐提升20倍,推理速度提升50%以上。外部客戶如招商銀行、中國石化、長安汽車等也借助百舸滿足了超大規(guī)模算力需求。
百度智能云還升級了兩大自研AI應(yīng)用產(chǎn)品,面向智能營銷和視覺AI領(lǐng)域??蛺偂NE在金融營銷場景中實現(xiàn)了高精準獲客、“高情商”客服及高效的流失預(yù)警,已服務(wù)50余家金融企業(yè),落地10余個場景。而一見5.0則在標準化高、規(guī)則清晰的任務(wù)中,僅需一句自然語言即可秒級生成專業(yè)級視覺AI應(yīng)用,大幅降低了視覺AI模型訓(xùn)練門檻和應(yīng)用成本,加速了視覺智能的規(guī)?;涞?。
目前,百度智能云從算力、平臺到應(yīng)用的系統(tǒng)級能力已在多個企業(yè)場景中穩(wěn)定運行。中國鋼研與百度智能云聯(lián)合打造的全棧智能基礎(chǔ)設(shè)施,基于昆侖芯和百舸搭建了專屬智算平臺,在千帆上進行模型精調(diào),使用大小模型結(jié)合的方式獲得最佳效果,并結(jié)合一見視覺平臺,快速完成了表面缺陷檢測、金相分析等核心場景的應(yīng)用開發(fā)。