雙引擎驅(qū)動:百度百舸攜手昆侖芯,保障DeepSeek穩(wěn)定安全部署觀點

2月18日晚,百度發(fā)布2024年Q4及全年財報。數(shù)據(jù)顯示,百度2024全年總營收1331億元,歸屬百度核心凈利潤達234億元,同比增長21%。受AI驅(qū)動,百度智能云呈高速增長,四季度收入同比增長達26%,成為公司重要的增長引擎。
2月18日晚,百度發(fā)布2024年Q4及全年財報。數(shù)據(jù)顯示,百度2024全年總營收1331億元,歸屬百度核心凈利潤達234億元,同比增長21%。受AI驅(qū)動,百度智能云呈高速增長,四季度收入同比增長達26%,成為公司重要的增長引擎。
百度創(chuàng)始人李彥宏表示:“2024年是我們從以互聯(lián)網(wǎng)為中心轉(zhuǎn)向以人工智能為先的關(guān)鍵一年。隨著我們?nèi)珬I技術(shù)得到廣泛的市場認可,智能云的增長態(tài)勢愈發(fā)強勁。”在全棧AI技術(shù)方面,百度已經(jīng)形成了從云基礎(chǔ)設(shè)施、框架、模型到應(yīng)用的四層架構(gòu),能夠形成高效的反饋閉環(huán),幫助大模型不斷調(diào)優(yōu)迭代,實現(xiàn)端到端的優(yōu)化。?
在財報電話會上,百度集團執(zhí)行副總裁,百度智能云事業(yè)群總裁沈抖在談到云基礎(chǔ)設(shè)施時表示,得益于更快、更先進的網(wǎng)絡(luò)架構(gòu),2024年第四季度,百度智能云將統(tǒng)一GPU集群的規(guī)模擴大了一倍,但仍然實現(xiàn)了99%的有效訓練時間,這證明了百度智能云大規(guī)模提供峰值性能的能力。
此外,百度智能云近期成功點亮昆侖芯P800萬卡集群,未來還將進一步點亮三萬卡集群。昆侖芯萬卡集群不僅為企業(yè)提供了強大的算力支持,還顯著提升了資源利用率,降低了大模型訓練成本,推動模型降本增效,為企業(yè)提供穩(wěn)定、高效的算力支持。
春節(jié)期間,DeepSeek憑借其卓越的技術(shù)性能和創(chuàng)新功能,迅速在市場中嶄露頭角,實現(xiàn)了C端用戶數(shù)量的爆發(fā)式增長。然而,當考慮將其應(yīng)用于企業(yè)業(yè)務(wù)時,除了模型本身強大的性能之外,穩(wěn)定性和安全性也是關(guān)鍵因素。為此,百度百舸基于昆侖芯P800,發(fā)布部署 “滿血版DeepSeek R1+聯(lián)網(wǎng)搜索” 服務(wù)。通過聯(lián)網(wǎng)搜索功能,將最新的互聯(lián)網(wǎng)數(shù)據(jù)融入答案生成,為企業(yè)提供更及時、準確的信息支持,讓企業(yè)業(yè)務(wù)不再等待,高效運轉(zhuǎn)成為常態(tài)。現(xiàn)在,企業(yè)用戶及開發(fā)者朋友們可以通過訪問aihc.baidu.com申請體驗測試資格。
?昆侖芯率先完成訓練推理DeepSeek全版本適配
在模型適配方面,昆侖芯領(lǐng)先業(yè)界。在DeepSeek-V3/R1上線不久,昆侖芯便率先完成全版本模型適配,這其中包括DeepSeek MoE 模型及其蒸餾的Llama/Qwen等小規(guī)模dense模型。?
昆侖芯P800在性能上表現(xiàn)卓越,這使得昆侖芯在部署上更加輕松,運行成本顯著降低,還能輕松完成DeepSeek-V3/R1全版本推理任務(wù)。不僅如此,昆侖芯P800在DeepSeek系列MoE模型大規(guī)模訓練任務(wù)中也表現(xiàn)出色,全面支持MLA、多專家并行等特性,僅需32臺即可支持模型全參訓練,高效助力模型的持續(xù)訓練和微調(diào)。
同時,為了滿足企業(yè)客戶私有化部署的需求,百度智能云分別發(fā)布了百舸DeepSeek一體機、千帆DeepSeek一體機,均支持昆侖芯 P800 單機 8 卡部署滿血版 DeepSeek R1/V3。百舸DeepSeek一體機可滿足高性能訓練與推理需求,從開箱上電到服務(wù)上線最快僅需半天。而千帆DeepSeek一體機除了滿足訓推需求之外,還為企業(yè)提供了一站式的模型應(yīng)用解決方案,能夠滿足企業(yè)全鏈路模型開發(fā)應(yīng)用工具鏈需求,具備更強、更全面的應(yīng)用開發(fā)能力。
百舸4.0助力昆侖芯萬卡集群建設(shè),打造“多快穩(wěn)省”AI基礎(chǔ)設(shè)施
目前,百度智能云已成功點亮昆侖芯P800萬卡集群,這也是國內(nèi)首個正式點亮的自研萬卡集群。百度智能云將進一步點亮3萬卡集群。國產(chǎn)昆侖芯萬卡集群以及未來三萬卡集群的建設(shè),從硬件到軟件,技術(shù)挑戰(zhàn)是全方位的。而24年9月升級的百度百舸AI異構(gòu)計算平臺4.0,圍繞落地大模型全旅程的算力需求,在集群創(chuàng)建、開發(fā)實驗、模型訓練、模型推理四大方面,能為企業(yè)提供“多芯、快、穩(wěn)、省”的AI基礎(chǔ)設(shè)施,在萬卡集群的建設(shè)中發(fā)揮了至關(guān)重要的作用。
在DeepSeek最擅長的推理能力方面,百度百舸還提供了針對在線推理服務(wù)的全生命周期管理、彈性擴縮容、自研框架推理加速、完備的運維監(jiān)控體系等優(yōu)勢能力,結(jié)合昆侖芯P800的強大算力,為用戶提供服務(wù)穩(wěn)定性的聯(lián)合保障,同時有效降低推理成本并提升推理性能。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會明確標注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請轉(zhuǎn)載時務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控熑危?br>
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。