LuceboxがAMDと提携、$6,499のローカルAI推論ボックス

Why it matters

Lucebox is testing whether software tuned for mismatched consumer processors can give AMD a credible position against Nvidia's integrated desktop AI systems.

Lucebox founder Alessandro "Sandro" Puppo (@pupposandro) announced a partnership with AMD on July 30th to sell a local AI inference computer that combines a Radeon AI PRO R9700 discrete GPU with AMD's Ryzen AI MAX+ 395, commonly known as Strix Halo.

Lucebox の創業者である Alessandro "Sandro" Puppo (@pupposandro) は7月30日、AMD と提携し、Radeon AI PRO R9700ディスクリートGPUとAMDのRyzen AI MAX+ 395（一般にStrix Haloとして知られる）を組み合わせたローカルAI推論コンピュータを販売すると発表した。

Puppo, who previously worked at Notion and helped build Cua, a Y Combinator-backed infrastructure project for computer-use agents, is taking the same underlying bet into hardware: AI agents will need a private, predictable source of inference that developers can run continuously without sending every request to a cloud API.

Puppoは以前Notionで働き、コンピュータ使用エージェント向けのY Combinator支援インフラプロジェクトであるCua の構築を手伝っており、同じ根本的な賭けをハードウェアに持ち込んでいる。すなわち、AIエージェントは、すべてのリクエストをクラウドAPIに送らずに開発者が継続的に動かせる、プライベートで予測可能な推論の供給源を必要とするだろう、という前提である。

The San Francisco-based Lucebox lists the AMD-powered machine at $6,499 through August 31st, after which the price rises to $7,900. The system includes 128GB of LPDDR5X unified memory attached to the Strix Halo processor, 32GB of GDDR6 memory on the R9700, a 2TB NVMe drive and an aluminum 11.97-liter enclosure. Ubuntu, tuned models and Lucebox's inference engine arrive preinstalled, according to Lucebox.

サンフランシスコ拠点のLuceboxは、このAMD搭載マシンを8月31日までは$6,499で販売し、その後は$7,900に値上げするとしている。システムにはStrix Haloプロセッサに接続された128GBのLPDDR5X統合メモリ、R9700の32GB GDDR6メモリ、2TBのNVMeドライブ、アルミ製の11.97リットル筐体が含まれる。Luceboxによれば、Ubuntu、チューニング済みモデル、およびLuceboxの推論エンジンはプレインストールで提供されるという。

The product exposes OpenAI- and Anthropic-compatible endpoints, allowing developer tools and agent frameworks to send requests to the machine using interfaces modeled on cloud APIs. Lucebox says the system can operate offline once model weights are loaded.

この製品はOpenAIおよびAnthropic互換のエンドポイントを公開しており、開発者ツールやエージェントフレームワークがクラウドAPIを模したインターフェースを使ってマシンにリクエストを送ることを可能にしている。Luceboxは、モデルの重みがロードされればシステムはオフラインで動作できると述べている。

Lucebox splits one model across two different AMD processors

Luceboxは1つのモデルを2つの異なるAMDプロセッサに分散させる

The technical centerpiece is Lucebox's approach to heterogeneous computing. Instead of dividing each model layer evenly between two identical accelerators, Lucebox assigns different work to the R9700 and Strix Halo based on their memory capacity and speed.

技術的中心はLuceboxのヘテロジニアスコンピューティングへのアプローチにある。各モデル層を2つの同一アクセラレータ間で均等に分割するのではなく、Luceboxはメモリ容量と速度に基づいてR9700とStrix Haloに異なる作業を割り当てる。

In a technical report published alongside Puppo's announcement, Lucebox said it loaded a compressed, 102.3GB build of the 284-billion-parameter DeepSeek V4 Flash model across the two processors. The R9700 stored the dense path, frequently selected expert blocks, an 11.3GB speculative-decoding helper model and the working cache. Strix Halo's larger unified memory held the remaining experts.

Puppoの発表に合わせて公開された技術レポート によると、Luceboxは2840億パラメータのDeepSeek V4 Flashモデルを圧縮して102.3GBにしたビルドを2つのプロセッサにまたがってロードしたという。R9700はデンスパス、頻繁に選択されるエキスパートブロック、11.3GBの推測デコーディング補助モデル、およびワーキングキャッシュを格納した。Strix Haloのより大きな統合メモリは残りのエキスパートを保持した。

Both processors execute selected experts concurrently before the R9700 combines their outputs. The architecture is designed around mixture-of-experts models, which activate only a fraction of their total parameters for each token. Lucebox calls the technique asymmetric expert parallelism.

両方のプロセッサは選択されたエキスパートを同時に実行し、その出力をR9700が結合する。アーキテクチャはミクスチャー・オブ・エキスパーツ（mixture-of-experts）モデルを中心に設計されており、これらは各トークンごとに全パラメータの一部のみを活性化する。Luceboxはこの手法を「非対称エキスパート並列化」と呼んでいる。

Lucebox reported a median generation rate of 51.1 tokens per second for a single request using an approximately 2,000-token prompt and 128 generated tokens. The result was the median of three measured requests after two warmup runs. Puppo said on X that the result was 3.63x the performance Lucebox measured on one NVIDIA DGX Spark.

Luceboxは、約2,000トークンのプロンプトと128トークンの生成で単一リクエストあたり中央値51.1トークン/秒の生成速度を報告した。この結果はウォームアップラン2回の後に計測した3回のリクエストの中央値である。PuppoはX上で、この結果はLuceboxが1台のNVIDIA DGX Sparkで測定した性能の3.63倍であると述べた。

That headline ratio needs qualification. Lucebox measured the DGX Spark at an average 14.09 tokens per second across four context lengths, while the 51.1-token Lucebox figure came from a separate serving test. In Lucebox's matched sweep at 2,000, 4,000, 8,000 and 16,000 tokens of context, its machine averaged 47.75 tokens per second, producing a 3.39x speedup over the DGX Spark result.

その見出し的な倍率には補足が必要だ。LuceboxはDGX Sparkを4つのコンテキスト長にわたって平均14.09トークン/秒と測定した一方で、51.1トークン/秒のLuceboxの数値は別のサービングテストからのものだ。Luceboxが2,000、4,000、8,000、16,000トークンのコンテキストで行ったマッチドスイープでは、自社マシンは平均47.75トークン/秒を記録し、DGX Spark結果に対して3.39倍の高速化を示した。

The two systems also ran different model compression formats and software configurations optimized for their respective hardware. Lucebox used a ROCmFPX build, four routed experts per token and speculative decoding. The DGX Spark used a Q2-compressed model. Lucebox describes the result as a whole-system comparison rather than a GPU-only test.

両システムはそれぞれのハードウェアに最適化された異なるモデル圧縮フォーマットおよびソフトウェア構成でも実行された。LuceboxはROCmFPXビルド、トークンあたり4つのルーティングされたエキスパート、及び推測デコーディングを使用した。DGX SparkはQ2圧縮モデルを使用した。Luceboxはこの結果をGPUのみのテストではなく、全体システムの比較として説明している。

The benchmark was run by Lucebox rather than an independent testing lab. Lucebox has published the test setup, model names and implementation through its open-source repository, giving developers a path to inspect and reproduce the work.

このベンチマークは独立試験所ではなくLucebox自身によって実行された。Luceboxはテストセットアップ、モデル名、実装をオープンソースのリポジトリ を通じて公開しており、開発者が検査・再現するための手段を提供している。

AMD gets another route onto AI developers' desks

AMDがAI開発者のデスクに進出する別のルートを得る

The partnership gives AMD a small but focused hardware vendor building directly around the combination of a high-memory APU and a discrete Radeon GPU. AMD positions the R9700, which has 32GB of video memory and uses its RDNA 4 architecture, for local inference and memory-intensive development workloads.

この提携により、AMDは大容量メモリを備えたAPUとディスクリートのRadeon GPUの組み合わせを中心に直接構築する、小規模だが焦点の定まったハードウェアベンダーを得たことになる。AMDは、32GBのビデオメモリを持ちRDNA 4アーキテクチャを採用するR9700を、ローカル推論やメモリ集約型の開発ワークロード向けに位置づけている。

Lucebox's approach also addresses a persistent disadvantage for AMD in developer AI systems: much of the inference software market has been built around Nvidia's CUDA stack. Lucebox is attempting to close part of that gap through model-specific kernels, speculative decoding and placement logic written for the exact AMD hardware configuration.

Luceboxのアプローチは、開発者向けAIシステムにおけるAMDの持続的な不利点にも対応するものだ。推論ソフトウェア市場の多くはNvidiaのCUDAスタックを中心に構築されてきた。Luceboxは、モデル固有のカーネル、推測デコーディング、そして特定のAMDハードウェア構成向けに記述された配置ロジックを通じて、そのギャップの一部を埋めようとしている。

The pricing puts Lucebox between one and two DGX Spark units. Nvidia currently lists one DGX Spark at $4,699 with 128GB of unified system memory and 4TB of storage. At their listed prices, the Lucebox costs about 38% more than one DGX Spark and about 31% less than two.

価格設定はLuceboxを1台と2台のDGX Sparkの中間に位置づける。Nvidiaは現在1台のDGX Sparkを 128GBの統一システムメモリと4TBのストレージで$4,699と表記している。表記価格で比較すると、LuceboxはDGX Spark1台より約38%高く、2台分より約31%安い。

Puppo's wager is that developers running sustained agent workloads will pay the premium for higher measured throughput, local data control and a preconfigured software stack. The hardware is only half of that proposition. Lucebox's ability to keep tuning individual open models across AMD's two processors will determine whether the box remains faster after the benchmark model changes.

Puppoの賭けは、持続的なエージェントワークロードを実行する開発者が、より高い実測スループット、ローカルデータの制御、そして事前構成されたソフトウェアスタックのためにプレミアムを支払うだろうという点にある。ハードウェアはその提案の半分に過ぎない。ベンチマークで用いられたモデルが変わった後でもこのボックスが速いままであるかどうかは、LuceboxがAMDの2つのプロセッサにまたがって個々のオープンモデルをチューニングし続ける能力にかかっている。