华为近期发布的盘古Pro MoE大模型，通过动态激活专家网络的创新设计，实现了以小打大的优异性能。然而，近日一项发布于GitHub的研究引发业界关注，该研究的作者认为，华为推出的盘古大模型(Pangu Pro MoE)与阿里巴巴发布的通义千问Qwen-2.514B模型在参数结构上存在“惊人一致”。
针对该研究，7月5日下午，华为盘古团队公开回应表示，盘古Pro MoE开源模型是基于昇腾硬件平台开发、训练的基础大模型，并非基于其他厂商模型增量训练而来，在架构设计、技术特性等方面做了关键创新，是全球首个面向昇腾硬件平台设计的同规格混合专家模型，创新性地提出了分组混合专家模型(MoGE)架构，有效解决了大规模分布式训练的负载均衡难题，提升训练效率。
声明指出，盘古Pro MoE开源模型部分基础组件的代码实现参考了业界开源实践，涉及其他开源大模型的部分开源代码。“我们严格遵循开源许可证的要求，在开源代码文件中清晰标注开源代码的版权声明。这不仅是开源社区的通行做法，也符合业界倡导的开源协作精神。我们始终坚持开放创新，尊重第三方知识产权，同时提倡包容、公平、开放、团结和可持续的开源理念。”
以下是华为盘古团队声明原文：
我们注意到近期开源社区及网络平台关于盘古大模型开源代码的讨论。
盘古Pro MoE开源模型是基于昇腾硬件平台开发、训练的基础大模型，并非基于其他厂商模型增量训练而来，在架构设计、技术特性等方面做了关键创新，是全球首个面向昇腾硬件平台设计的同规格混合专家模型，创新性地提出了分组混合专家模型(MoGE)架构，有效解决了大规模分布式训练的负载均衡难题，提升训练效率。其他技术特性创新，请参考昇腾生态竞争力系列技术报告披露内容。
盘古Pro MoE开源模型部分基础组件的代码实现参考了业界开源实践，涉及其他开源大模型的部分开源代码。我们严格遵循开源许可证的要求，在开源代码文件中清晰标注开源代码的版权声明。这不仅是开源社区的通行做法，也符合业界倡导的开源协作精神。我们始终坚持开放创新，尊重第三方知识产权，同时提倡包容、公平、开放、团结和可持续的开源理念。
感谢全球开发者与合作伙伴对盘古大模型的关注和支持，我们高度重视开源社区的建设性意见。希望通过盘古大模型开源，与志同道合的伙伴一起，探索并不断优化模型能力，加速技术突破与产业落地。
我们欢迎并期待大家在开源社区Ascend Tribe，就技术细节进行深入、专业的交流。
本文系观察者网独家稿件，未经授权，不得转载。
睿迎网官网提示：文章来自网络，不代表本站观点。
