华为宣布开源盘古7B稠密和72B混合专家模型
华为今日正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理技术。
华为表示：“此举是华为践行昇腾生态战略的又一关键举措，推动大模型技术的研究与创新发展，加速推进人工智能在千行百业的应用与价值创造。”
根据华为官网显示：
盘古Pro MoE 72B模型权重、基础推理代码，已正式上线开源平台。
基于昇腾的超大规模MoE模型推理代码，已正式上线开源平台。
盘古7B相关模型权重与推理代码将于近期上线开源平台。
据悉，基于MoGE架构构建的盘古Pro MoE大模型（72B总参数、16B激活参数）在昇腾300I Duo和800I A2可实现更优的专家负载分布与计算效率（321 tokens/s和1528 tokens/s）。
而在模型能力方面，盘古Pro MoE在最新一期业界权威大模型榜单SuperCLUE上交出了超能打的成绩。
和其他动辄千亿以上的大模型相比，如DeepSeek-R1具有671B参数，盘古Pro MoE以72B总参数量达到了59分，千亿参数量以内大模型排行并列国内第一。
并且，16B激活参数量可以媲美其他厂商更大规模的模型。
原标题：华为宣布开源盘古7B稠密和72B混合专家模型
责任编辑：李晓灵
- 相关阅读:
-
抗战胜利80周年纪念大会包括检阅部队9月3日上午举行 习近平将发表重要讲话2025-06-24人社部：个人养老金领取时需要缴纳3%个人所得税2025-06-25演员梓渝为引起机场拥挤：没想到会出现这种情况2025-06-27
- 新闻 娱乐 福建 泉州 漳州 厦门
-
- 陈竞任湖南省副省长
2025-08-01 11:42 - 国家金融监督管理总局贵州监管局原党委书记、局长李华
2025-08-01 11:18 - 医疗卫生强基工程启动实施 支持约600个县域医共体改善
2025-08-01 11:18 - 最高法：劳动者故意不签合同 单位不支付二倍工资
2025-08-01 11:06 - “不缴社保约定”无效 单位需支付经济补偿 最高法发布
2025-08-01 11:06 - 最高法：明确“连续订立两次固定期限劳动合同”认定标
2025-08-01 11:04 - 最高法：工程转包后出工伤 承包人承担工伤保险责任
2025-08-01 11:04
- 陈竞任湖南省副省长
- 猜你喜欢:
-
最高法：工程转包后出工伤 承包人承担工伤保险责任2025-08-01粉丝冒充工作人员闯进丁禹兮化妆间 剧组发声2025-07-18中国海油原党组成员、副总经理袁光宇严重违纪违法被开除党籍2025-07-31
-
评论(华为宣布开源盘古7B稠密和72B混合专家模型)