華為宣布開源盤古7B稠密和72B混合專家模型
華為今日正式宣布開源盤古70億參數(shù)的稠密模型、盤古Pro MoE 720億參數(shù)的混合專家模型和基于昇騰的模型推理技術(shù)。
華為表示：“此舉是華為踐行昇騰生態(tài)戰(zhàn)略的又一關(guān)鍵舉措，推動大模型技術(shù)的研究與創(chuàng)新發(fā)展，加速推進人工智能在千行百業(yè)的應(yīng)用與價值創(chuàng)造。”
根據(jù)華為官網(wǎng)顯示：
盤古Pro MoE 72B模型權(quán)重、基礎(chǔ)推理代碼，已正式上線開源平臺。
基于昇騰的超大規(guī)模MoE模型推理代碼，已正式上線開源平臺。
盤古7B相關(guān)模型權(quán)重與推理代碼將于近期上線開源平臺。
據(jù)悉，基于MoGE架構(gòu)構(gòu)建的盤古Pro MoE大模型（72B總參數(shù)、16B激活參數(shù)）在昇騰300I Duo和800I A2可實現(xiàn)更優(yōu)的專家負載分布與計算效率（321 tokens/s和1528 tokens/s）。
而在模型能力方面，盤古Pro MoE在最新一期業(yè)界權(quán)威大模型榜單SuperCLUE上交出了超能打的成績。
和其他動輒千億以上的大模型相比，如DeepSeek-R1具有671B參數(shù)，盤古Pro MoE以72B總參數(shù)量達到了59分，千億參數(shù)量以內(nèi)大模型排行并列國內(nèi)第一。
并且，16B激活參數(shù)量可以媲美其他廠商更大規(guī)模的模型。
原標題：華為宣布開源盤古7B稠密和72B混合專家模型
責任編輯：李曉靈
- 相關(guān)閱讀:
-
人社部：個人養(yǎng)老金領(lǐng)取時需要繳納3%個人所得稅2025-06-25演員梓渝為引起機場擁擠：沒想到會出現(xiàn)這種情況2025-06-27
- 新聞 娛樂 福建 泉州 漳州 廈門
-
- 浙江省人大常委會黨組副書記、副主任高興夫接受中央紀
2025-08-18 17:54 - 陜西眉太高速公路建設(shè)有新進展 預計年內(nèi)全線通車
2025-08-18 17:36 - 雞西市第十六屆人民代表大會常務(wù)委員會第三十二次會議
2025-08-18 17:36 - 廣東省惠州市人大常委會黨組成員、副主任溫小林接受紀
2025-08-18 17:36 - 水利部：“七下八上” 暴雨洪水極端性強致災(zāi)性高
2025-08-18 17:21 - 刷新進度條 渝萬高鐵渠溪河雙線特大橋成功合龍
2025-08-18 17:21 - 山東省公安廳出入境管理總隊原總隊長張青青被“雙開”
2025-08-18 17:21
- 浙江省人大常委會黨組副書記、副主任高興夫接受中央紀
- 猜你喜歡:
-
華為MatePad 11.5 S平板上架 到手價僅1685元起2025-08-18國臺辦發(fā)言人就賴清德散播錯誤二戰(zhàn)史觀答記者問2025-08-16錦城盡繽紛 夢想共綻放——第12屆世界運動會開幕式側(cè)記2025-08-08
-
評論(華為宣布開源盤古7B稠密和72B混合專家模型)