Webml-community が WebGPU を使ってブラウザ上で3つの Qwen3.5 モデルをローカルで実行

Why it matters

The webml-community demo turns downloadable Qwen weights into a local browser application, showing how runtimes and deployment tooling influence which open models developers can test and use without a cloud API.

Qwen3.5 Smallは2026年3月2日に出荷された、とQwenのQwen3.5リリース発表は伝えている。WebGPUデモは現在、その0.8B、2B、4Bモデルがブラウザ上でローカル実行できることを示している。デモはwebml-communityによってメンテナンスされ、Transformers.jsに関連するHugging FaceのエンジニアであるJoshua Lochner (@xenovacom)により注目された。ブラウザ上のデモはAlibabaのQwen3.5リリース発表とは別個のデプロイメントプロジェクトである。

Joshua Lochner's Qwen3.5 browser demonstration on X

Qwen3.5 WebGPU demoは、Alibabaの出荷から5か月半の小型モデル群に対してシンプルなデプロイ手段を与える：ウェブページを開き、モデルを選択し、必要なら画像を添付して会話を開始するだけだ。デモによれば推論はクラウドAPIを使わずブラウザ内で実行され、チャットはユーザーのデバイス上に留まる。

デモはQwen3.5 Smallのダウンロード可能な重みをブラウザベースのテストへ変換する。Transformers.jsがJavaScriptランタイム層を提供し、WebGPUは対応するモデルをユーザーのグラフィックハードウェア上で動かす。これにより、サーバーを立てたり推論課金を支払ったりせずにモデルを見つけて試す障壁が下がる。

RuntimeWireの8月17日付Qwen3.8レポートは、新たに公開されたモデル重みとライセンス条件を扱った。このデモは古いモデル群に対する別のデプロイ経路に関わるものだ：webml-communityはTransformers.jsとWebGPUを通じてローカルブラウザ推論用に3つのQwen3.5 Smallモデルをパッケージしている。

デプロイ先はブラウザ

デモは0.8B、2B、4BパラメータのQwen3.5モデルを提供する。ユーザーはテキストや画像を入力でき、モデルは推論志向のタスクをサポートする。

これらの点は、単なるホスト型チャットボットの表層よりも重要性を持たせる。ローカル推論は機密入力を外部APIの外に留め、リクエストごとの課金を排し、必要なファイルがダウンロードされた後は常時接続を必要としない。また計算コストをモデル提供者からユーザーのハードウェアに移すため、頻繁かつ狭い範囲のタスクを提供するアプリ開発者には魅力的だ。

ブラウザデモには明確な境界がある。Alibabaは2026年3月2日に4つのQwen3.5 Smallモデルを公開した：0.8B、2B、4B、9B。webml-communityのインターフェースは4Bまでに留まる。最小メモリ構成を明示しているわけでも、異なるノートPCでの生成速度を提供しているわけでも、すべてのWebGPU対応デバイスが同じ体験を提供すると約束しているわけでもない。

9B版を除外している点は示唆に富む。モデルの重みはダウンロード可能であっても、ブラウザのタブでは扱いにくいことがあり得る。ローカルモデル市場はますます、量子化、ランタイムサポート、メモリ使用、カーネル性能、使えるインターフェースといった「完全なデプロイ経路」によって決まる。パラメータ数だけでは、開発者にとってそのモデルが実製品に快適に収まるかどうかはほとんど分からない。

Transformers.jsリポジトリは、サーバーを必要とせずに言語、ビジョン、オーディオその他のモデルクラスをサポートする。Qwenに関しては、その作業がダウンロード可能な重みを、開発者がターミナルを開く前にテストできるものへと変える。

フロンティア性能の主張には実機が必要

Alibabaの投稿は、どのモデルか、どのノートPCのハードウェアか、どのベンチマークかを特定せずにフロンティア性能の主張を繰り返している。ブラウザデモは、小型モデルがWebGPUを通じてローカルで動作できるというより狭い主張を支持する。

Qwen / Alibaba on X

AlibabaのQwen3.5-9B model cardは、知識、コーディング、推論、長文コンテキスト、エージェントタスクをカバーする企業実行のベンチマーク比較を公開している。またネイティブで262,144トークンのコンテキストウィンドウ、マルチモーダル入力、Apache 2.0ライセンスを記載している。これらの仕様はサイズに対して異例に広範なモデルを示しているが、消費者向けハードウェア上でのブラウザ構成の性能を確立するものではない。

区別が重要なのは、インターフェースがブラウザ推論向けに小型モデルの最適化版をパッケージしているためだ。ブラウザのランタイム、数値精度、利用可能なメモリ、GPUの実装はいずれも速度や出力に影響を与え得る。ライブデモはソフトウェアスタックが動作することを証明するが、Alibabaの広範なフロンティア比較を独立に再現した結果に変えるものではない。

それが残すのは有用でより狭い主張だ：Qwen3.5 Smallは、ブラウザインターフェースを通じてローカルでのマルチモーダルチャットを提供でき、モデルの選択肢は消費者向けハードウェアをターゲットにできるほど小さい。開発者はその命題を直接テストできるが、デモはハードウェアマトリクスやトークン毎秒の結果を提供していない。

独立したツールがデプロイのギャップを埋める

このデモは、ローカルAI競争の多くが独立したツール構築者に属していることを示している。ラボはモデルカードや重みファイルを公開できるが、採用はそれらのファイルを変換し、新しいアーキテクチャをサポートし、カーネルを最適化し、研究環境外で使える形にする人々に依存する。

Alibabaはモデルを供給した。Webml-communityはブラウザデプロイを維持し、Lochnerがそれを開発者に知らせた。Qwen3.5 Smallの出荷から5か月半が経ち、技術的にこのファミリーを再検討する理由は、ダウンロード可能な重みからローカルアプリケーションへの道筋が短くなったことにある。