Thinking Machines LabがInkling-Smallを出荷、重みをオープン化し計算コストを削減

Why it matters

Inkling-Small gives startups a lower-cost multimodal base they can inspect, host and fine-tune, while turning Tinker into the paid distribution layer for Murati's model family.

Mira Murati (@miramurati)'s Thinking Machines Labは7月30日にInkling-Smallをリリースした。これはオープンウェイトのマルチモーダルモデルで、より大きな兄弟モデルの推論能力とエージェント的性能の多くを、より低い計算量と推論コストで提供するよう設計されている。

X上の6投稿にわたるスレッドと詳細な技術発表で、Thinking Machines LabはInkling-Smallが総パラメータ数2760億、各トークンで活性化するのは120億であると述べた。スパースなMixture-of-Expertsアーキテクチャを採用するこのモデルはテキスト、画像、音声を受け入れ、最大100万トークンのコンテキストウィンドウをサポートし、開発者が性能とコストをトレードオフするために推論の努力量を変えられるようになっている。

MuratiはOpenAIの元最高技術責任者であり短期間の暫定CEOも務めた人物だが、OpenAIを離れて自身の探究のための「時間と空間」を作ると述べ、2025年2月にThinking Machines Labを公に立ち上げた。Thinking Machines Labはその後、Andreessen Horowitz主導のシードラウンドで約20億ドルを調達し、Nvidia、Accel、Cisco、AMDが出資者に含まれたとWIREDが報じた。

Inkling-Smallは、Muratiの当初の提案――開発者が閉鎖的なプロバイダのインターフェースを通じてのみアクセスするのではなく、理解して適応できるAIシステム――の背後に、よりデプロイ可能なモデルを置くものだ。モデルの全ウェイトはApache 2.0 licenseの下で利用可能であり、ライセンス条項に従って商用利用、改変、ローカル展開が許可されている。

小型化による設計

Inkling-Smallは、Thinking Machines Labが7月15日にリリースしたInklingのおよそ4分の1の大きさで、Inklingは総パラメータ9750億、アクティブ410億を持つ。両モデルとも、すべてのパラメータを活性化するのではなく、各トークンをモデルのエキスパートのサブセットにルーティングするスパースアーキテクチャを使用している。

Thinking Machines Labは、小型モデルがInklingのトレーニングから得られた教訓の恩恵を受けたと述べている。これらの変更には、事前学習データのミックスの改訂、機械学習レシピの洗練、Inklingを教師とするオンポリシー蒸留、そしてエージェント型コーディングに焦点を当てたさらに2週間の強化学習が含まれる。

その結果、ベンチマークの主張はコーディングと一般的な推論で最も強い。Thinking Machines Labは、Inkling-SmallがSWE-Bench Verifiedで80.2%、Terminal-Bench 2.1で64.7%、Humanity's Last Examのテキストのみバージョンで31.6%を記録したと報告している。Inklingは同じ表でそれぞれ77.6%、63.8%、29.7%だった。

これらの数値はベンダー報告のままである。Thinking Machines LabはSWE-Benchの結果にbashのみのハーネスを使用し、Terminal-Benchには社内のコーディングハーネスを使用したと述べている。同ラボは、ウェブ検索によって汚染された少数のTerminal-Benchの解答に対してはゼロスコアを割り当てたと述べた。また、Inklingが知識カバレッジと事実性で優位性を保持していることも認めている。SimpleQA Verifiedでは、Inkling-Smallが20.6%、Inklingが43.9%を記録した。

マルチモーダルの差は狭い。Thinking Machines LabはInkling-SmallがMMMU Proで74%、VoiceBenchで90.1%を記録したと報告しており、Inklingの73.5%および91.4%に近い。画像と音声は別のエンコーダを通されるのではなくテキストと共同で処理され、モデルは推論中にPythonを呼び出してチャートや文書の一部を切り抜き、拡大し、検査することができる。

Tinkerが配布チャネルになる

Thinking Machines Labは、カスタマイズのために開発者に使ってもらいたいと考えている同じインフラを通じてInkling-Smallをリリースしている。Muratiは2025年10月にTinkerを紹介し、ユーザーがトレーニングデータとアルゴリズムを制御できる一方で、Thinking Machines Labが分散コンピュート、スケジューリング、障害回復を処理するマネージドなファインチューニングサービスとして位置づけた。

Inkling-SmallはTinkerを通じたファインチューニングおよびTinker Playgroundを通じたテキスト・画像・音声での会話に利用可能だ。モデルはモデルカードによれば、Transformers、vLLM、SGLangを含むフレームワークを通じてローカルで実行することもできる。

Thinking Machines Labの料金ページは、64,000トークンのファインチューニング構成に対して期間限定で50%割引を掲載している。料金は、プレフィルトークンが100万トークンあたり$0.58、サンプルトークンが100万トークンあたり$1.44、トレーニングトークンが100万トークンあたり$1.73である。256,000トークン構成はより高額であり、リリースされたモデル自体は最大100万トークンのコンテキストをサポートする。

この組み合わせにより、Inkling-Smallはモデルのリリースであると同時にTinkerへの顧客獲得手段にもなる。開発者はウェイトを自分で検査・ホストでき、マネージドなファインチューニングやホストされた推論が必要になったときにThinking Machines Labに支払うことができる。このアプローチは、Thinking Machines Labをオープンモデルの公開者とカスタマイズ提供者の双方に対抗させるものだ。

このリリースはまた、Muratiの異例に大きなシードラウンドが何を買ったのかを示し始めている。Thinking Machines Labは、カスタマイズ可能なAIについての一般的な仮説から、垂直に連結された製品ラインへと移行した：独自のモデルファミリー、マネージドな後処理サービス、ファインチューニングされたチェックポイントを直接ユーザーに公開できるプレイグラウンドだ。3月に発表されたギガワット規模のNvidiaとの提携は、Thinking Machines Labにそのスタックを拡張し続けるために必要なコンピュートを得るための長期的なルートを提供している。