C114通信網  |  通信人家園

人工智能
2024/12/27 08:23

國產大模型DeepSeek-V3開源:6710億參數自研 MoE,性能和 GPT-4o 不分伯仲

IT之家  故淵

“深度求索”官方公眾號昨日(12 月 26 日)發(fā)布博文,宣布上線并同步開源 DeepSeek-V3 模型,用戶可以登錄官網 chat.deepseek.com,與最新版 V3 模型對話。

援引博文介紹,DeepSeek-V3 是一個 6710 億參數的專家混合(MoE,使用多個專家網絡將問題空間劃分為同質區(qū)域)模型,激活參數 370 億,在 14.8 萬億 token 上進行了預訓練。

多項評測成績超越 Qwen2.5-72B 和 Llama-3.1-405B 等開源模型,性能比肩 GPT-4o 和 Claude-3.5-Sonnet 等世界頂尖閉源模型。

 

 

該模型在知識、長文本、代碼、數學和中文等方面均取得顯著進步,尤其在算法代碼和數學方面表現突出,生成速度提升至 60 TPS,相比 V2.5 提升了 3 倍。

官方開源了原生 FP8 權重,并提供 BF16 轉換腳本,方便社區(qū)適配和應用。SGLang、LMDeploy、TensorRT-LLM 和 MindIE 已支持 V3 模型推理。

DeepSeek-V3 更新上線的同時,DeepSeek 還調整了 API 服務價格,模型 API 服務定價也將調整為每百萬輸入 tokens 0.5 元(緩存命中)/ 2 元(緩存未命中),每百萬輸出 tokens 8 元。

 

 

官方還決定為全新模型設置長達 45 天的優(yōu)惠價格體驗期:即日起至 2025 年 2 月 8 日,DeepSeek-V3 的 API 服務價格仍然會是大家熟悉的每百萬輸入 tokens 0.1 元(緩存命中)/ 1 元(緩存未命中),每百萬輸出 tokens 2 元,已經注冊的老用戶和在此期間內注冊的新用戶均可享受以上優(yōu)惠價格。

給作者點贊
0 VS 0
寫得不太好

免責聲明:本文僅代表作者個人觀點,與C114通信網無關。其原創(chuàng)性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。

熱門文章
    最新視頻
    為您推薦

      C114簡介 | 聯系我們 | 網站地圖 | 手機版

      Copyright©1999-2025 c114 All Rights Reserved | 滬ICP備12002291號

      C114 通信網 版權所有 舉報電話:021-54451141