HuaweiがAscendチップ上で学習させた505BパラメータのopenPanguモデルを公開

Why it matters

Huawei is using an open-weight model to validate a vertically integrated AI stack built around Ascend instead of Nvidia GPUs. Adoption will depend on tooling, reproducibility and a license that bars use in the EU.

Huawei has released openPangu 2.0 Pro, a Mixture-of-Experts language model that Huawei says was trained entirely on its Ascend AI processors, putting weights from one of the largest models built on a non-Nvidia compute stack into developers' hands.

The model card lists approximately 505 billion total parameters, with 18 billion activated for each token, a 512K-token context window and roughly 34 trillion training tokens. The repository appeared around July 30th, after Huawei introduced the openPangu 2.0 family at its June 12th developer conference. Poe Zhao (@poezhao0605) drew attention to the full Pro release on July 31st.

The parameter count requires a qualification. Huawei's model card and technical report say 505 billion, while Hugging Face's automated metadata reports 541 billion. The repository does not reconcile the difference. Its files occupy approximately 1.08 TB.

Ascend を中心に構築されたモデル

このリリースにより openPangu は Huawei の垂直統合型AI戦略の公開テストとなる。Ren Zhengfei は同社の略歴によれば1987年に CNY21,000 で Huawei を設立した。四半世紀近くを経て、Huawei は自社のプロセッサ、学習システム、モデル、クラウドインフラ、デバイスソフトウェアを単一のスタックに組み上げつつある。

そのスタックこそが openPangu 2.0 Pro の中心的な主張だ。Huawei はこのモデルが Ascend NPU 上で学習されたと述べ、omni-infer フレームワークを通じて Ascend-native inference code を提供している。推論用リポジトリは Apache 2.0 ライセンスの下にある。

Huawei のアーキテクチャはスパース性を利用して、トークンあたりの実行される計算量をモデル全体のパラメータ数より大幅に低く抑えている。マルチヘッドの潜在注意（multi-head latent attention）に、ローカル文脈向けのスライディングウィンドウ注意と長距離情報向けのダイナミックスパース注意という二つの注意パターンを組み合わせている。Huawei はこれらのレイヤーを 2対1 の比率で配置したと述べている。4ストリーム残差設計、Muon optimizer、および3つのマルチトークン予測ヘッドは、学習と推論の効率を改善することを意図している。

モデルは思考モードと非思考モードを提供し、推論、コーディング、ツール利用、エージェントタスクを対象としている。Huawei によると、思考バージョンは SWE-bench Verified で 68.5、LiveCodeBench V6 で 85.7 のスコアを報告しており、いずれも3回の実行の平均で測定されたものだ。これらの数値は Huawei 自身の評価であり、同社のモデルカードに掲出されたテスト構成の範囲内で解釈されるべきである。

公開された仕様では openPangu 2.0 Pro は大規模なオープンウェイト MoE リリースの中でも上位に位置付けられる。DeepSeek-V3 は総パラメータ6710億、アクティブパラメータ370億、128K のコンテキストウィンドウを掲げている。Alibaba's Qwen3-235B-A22B は総2350億、アクティブ220億を、Moonshot AI's Kimi K2 は総1兆、アクティブ320億を掲示している。これら各構成はいずれも 128K のコンテキストウィンドウを持ち、Huawei が openPangu 2.0 Pro に主張する長さの4分の1に相当する。

生のモデルサイズだけでは性能や実用性は決まらない。Huawei のより重要な主張は、この規模のモデルを Ascend 上で学習させ、その重み、アーキテクチャコード、外部の開発者がその主張を検証するために必要なデプロイパスを公開したという点にある。

オープンウェイト、制限付きライセンス

Huawei は重みを標準的なオープンソースライセンスではなく、自社カスタムの OpenPangu Model License Agreement 2.0 の下で配布している。この合意はモデルの使用、改変、再配布の権利を付与する一方で、欧州連合内でのアクセス、デプロイ、使用を明示的に禁止している。

ライセンスはまた、モデルに基づく製品やサービスが「Powered by openPangu」という表記と Huawei の商標表示を表示することを要求している。これらの条件は対象となる開発者層を狭め、openPangu の推論コード自体は Apache 2.0 を使用しているものの、Qwen3 のような Apache 2.0 モデルよりも実質的に許容範囲が狭いリリースとなっている。

Huawei は同モデルを自社の広範なコンピューティング事業のインフラとして取り扱うだけの財務基盤を持っている。Huawei は2025 annual report announcement において、売上高 CNY880.9 billion と研究開発費 CNY192.3 billion を報告しており、研究開発費は売上高の21.8%に相当するとしている。Huawei は今後も AI へ投資を続け、Ascend、Kunpeng、HarmonyOS を軸に開発者の採用を構築していくと述べている。

OpenPangu 2.0 Pro はその戦略に対し、開発者がダウンロードして検査できるモデルを提供した。次の試練は運用面にある：Huawei 以外のチームが報告された性能を再現できるか、Ascend インフラ上でテラバイト級のリリースを効率よく動かせるか、そして欧州連合を除外するライセンスの下で製品を構築できるかどうかである。