TechFoco Logo
首页专题归档站点地图
© 2026 TechFoco. All rights reserved.
文章归档专题网站地图站点地图 XML爬虫规则
  1. 首页
  2. /
  3. 返回归档
  4. /
  5. 📱 华为开源 505B 参数 MoE 大模型 openPangu-2.0-Pro 华为近日在

📱 华为开源 505B 参数 MoE 大模型 openPangu-2.0-Pro 华为近日在

2026年08月01日•TechFoco 精选

📱 华为开源 505B 参数 MoE 大模型 openPangu-2.0-Pro 华为近日在 Hugging Face 发布开源大模型 openPangu-2.0-Pro。

📱 华为开源 505B 参数 MoE 大模型 openPangu-2.0-Pro 华为近日在 Hugging Face 发布开源大模型 openPangu-2.0-Pro。

该模型基于昇腾 NPU 训练,采用混合专家(MoE)架构,总参数约 505B,每 token 激活约 18B,支持 512k 上下文长度,训练数据约 34T tokens。

架构上,模型采用 MLA 注意力及 DSA+SWA 独立分层混合设计、3 头 MTP 自投机模块,后训练阶段完成快慢合一微调与多专项强化学习。

文章配图 1
文章配图 1

Thinking 版本在 AIME 2026 数学测评中得分 95.4,GPQA-Diamond 为 87.9。

Huggingface | 华为云

文章链接

  • 查看原文https://huggingface.co/openpangu/openPangu-2.0-Pro
  • 查看原文https://www.huaweicloud.com/product/modelarts/studio

相关标签

MoE大语言模型开源模型华为昇腾NPU长上下文

继续阅读

较新文章

谷歌拟对受制裁国家豁免安卓开发者认证 谷歌即将推出的安卓开发者验证系统将允许受制裁国家的开发者免

较早文章

🤖 DeepSeek-V4-Flash 正式版 API 上线公测 2026 年 7 月 31

相关文章

查看更多

Mellum2.1 开放权重,面向可自部署的编码智能体

Mellum2.1 开放权重,面向可自部署的编码智能体 12B MoE 模型每次激活约 2.5B 参数,以 Apache 2.0 许可发布,经过真实代码环境强化学习训练,可用于探索仓库、修改文件与检查改动。

2026年10月10日
开放权重MoE

Kolibri 开放 78B MoE 权重与 vLLM 部署插件

Kolibri 开放 78B MoE 权重与 vLLM 部署插件 Kolibri 发布完整权重并采用 Apache 2.0 许可,拥有 78B 总参数、约 3B 激活参数,支持推理和工具调用。

2026年10月06日
MoEApache-2.0

Claude Sonnet 5.5 面向日常编码与快速迭代 Sonnet 5.5 提升了代码库理

Claude Sonnet 5.5 面向日常编码与快速迭代 Sonnet 5.5 提升了代码库理解、缺陷修复和长程工具协作能力,是更复杂任务模型的低成本补充。

2026年10月03日
ClaudeSonnet

Clef 开源决策模型接入 Workers AI

Clef 开源决策模型接入 Workers AI Clef 与 Clef-flash 以结构化概率输出支持分类、工具选择等快速决策,提供 64K 上下文、视觉输入和 Jev API 兼容接口,权重采用 Apache 2.0 许可。

2026年10月03日
CloudflareWorkers AI

Naive-N0.5-Flash 开放编码模型与推理实现 面向编码和 AI 研发的模型采用 30

Naive-N0.5-Flash 开放编码模型与推理实现 面向编码和 AI 研发的模型采用 309B MoE、15.5B 激活参数,原生支持百万 token 上下文,权重和推理代码以 MIT 许可开放。

2026年10月03日
MoE大语言模型

Index-Translate 开源多语言翻译模型与本地工具 Index-Translate 发

Index-Translate 开源多语言翻译模型与本地工具 Index-Translate 发布 2B、9B 与 35B-A3B 预览版文本模型,支持 150 种语言及术语、格式和内容保留指令。

2026年10月01日
多语言翻译开源模型