C114通信網(wǎng)  |  通信人家園

 
2025/2/11 14:46

百度百舸發(fā)布部署“滿血版DeepSeek R1+聯(lián)網(wǎng)搜索”服務(wù),釋放昆侖芯極致性能

廠商供稿  

春節(jié)期間,DeepSeek憑借其卓越的技術(shù)性能和創(chuàng)新性的功能,在市場中迅速崛起,實現(xiàn)了C端用戶數(shù)量的爆發(fā)式增長。然而,當考慮將其應(yīng)用于企業(yè)業(yè)務(wù)時,除了模型本身強大的性能之外,穩(wěn)定性和安全性也是關(guān)鍵因素。因此,如何將具有與DeepSeek官方對話服務(wù)一致體驗的應(yīng)用,部署在安全的環(huán)境與平臺中,成為眾多企業(yè)關(guān)注的焦點。

如今,百度百舸基于昆侖芯P800,發(fā)布部署 “滿血版DeepSeek R1+聯(lián)網(wǎng)搜索” 服務(wù),為解決這一問題提供了有效路徑。通過聯(lián)網(wǎng)搜索功能,將最新的互聯(lián)網(wǎng)數(shù)據(jù)融入答案生成,為企業(yè)提供更及時、準確的信息支持,讓企業(yè)業(yè)務(wù)不再等待,高效運轉(zhuǎn)成為常態(tài)。

昆侖芯:強大算力,卓越性能

目前,百度智能云已成功點亮昆侖芯P800萬卡集群,這也是國內(nèi)首個正式點亮的自研萬卡集群。百度智能云將進一步點亮3萬卡集群。昆侖芯P800在性能上表現(xiàn)卓越。其顯存規(guī)格比同類主流GPU高出20%-50%,對MoE架構(gòu)更為友好,并且率先支持8bit推理,單機8卡就能運行671B模型。這使得昆侖芯在部署上更加輕松,運行成本顯著降低,還能輕松完成DeepSeek-V3/R1全版本推理任務(wù)。不僅如此,昆侖芯P800在DeepSeek系列MoE模型大規(guī)模訓(xùn)練任務(wù)中也表現(xiàn)出色,全面支持MLA、多專家并行等特性,僅需32臺即可支持模型全參訓(xùn)練,高效助力模型的持續(xù)訓(xùn)練和微調(diào)。

聯(lián)網(wǎng)搜索:多源聚合,智能協(xié)作

不僅如此,為了讓用戶具備與DeepSeek官方同樣的使用體驗,本次還創(chuàng)新性的集成了智能聯(lián)網(wǎng)搜索功能,采用「多源多引擎的聚合搜索+智能體協(xié)作」的方案,聚合來自各種搜索服務(wù)和數(shù)據(jù)庫的結(jié)果,相比單一搜索引擎,多源聚合能夠增加搜索結(jié)果的廣度和深度,不再受限于單一信息來源。同時,智能搜索也融入了智能體協(xié)作能力,實現(xiàn)用戶問題重寫、網(wǎng)頁解析、信息排序、信息源分類等功能,能夠為大模型提供與用戶問題更加相關(guān)好的高質(zhì)量數(shù)據(jù),同時方便用戶進一步查看高質(zhì)量的內(nèi)容。

百度百舸:創(chuàng)新架構(gòu),穩(wěn)行高效

國產(chǎn)昆侖芯萬卡集群以及未來三萬卡集群的建設(shè),從硬件到軟件,技術(shù)挑戰(zhàn)是全方位的。而24年9月升級的百度百舸AI異構(gòu)計算平臺4.0,圍繞落地大模型全旅程的算力需求,在集群創(chuàng)建、開發(fā)實驗、模型訓(xùn)練、模型推理四大方面,能為企業(yè)提供“多、快、穩(wěn)、省”的AI基礎(chǔ)設(shè)施,在萬卡集群的建設(shè)中發(fā)揮了至關(guān)重要的作用。在DeepSeek最擅長的推理能力方面,百度百舸還提供了針對在線推理服務(wù)的全生命周期管理、彈性擴縮容、自研框架推理加速、完備的運維監(jiān)控體系等優(yōu)勢能力,結(jié)合昆侖芯P800的強大算力,為用戶提供服務(wù)穩(wěn)定性的聯(lián)合保障,同時有效降低推理成本并提升推理性能。

現(xiàn)在,企業(yè)用戶及開發(fā)者朋友們可以通過訪問aihc.baidu.com申請體驗測試資格。如果對百度百舸相關(guān)服務(wù)有更多疑問或咨詢需求,可通過發(fā)郵件到AIHC-help@baidu.com尋求幫助。

給作者點贊
0 VS 0
寫得不太好

免責聲明:本文僅代表作者個人觀點,與C114通信網(wǎng)無關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實,對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關(guān)內(nèi)容。

熱門文章
    最新視頻
    為您推薦

      C114簡介 | 聯(lián)系我們 | 網(wǎng)站地圖 | 手機版

      Copyright©1999-2025 c114 All Rights Reserved | 滬ICP備12002291號

      C114 通信網(wǎng) 版權(quán)所有 舉報電話:021-54451141