MoonshotがKimi K3レポートを公開、2.8Tオープンモデルがどのように動作するかを詳述

7月27日付の報告書は、ハイブリッドアテンション、896のエキスパート中16のルーティング、そして依然としてデータセンター規模を要求するサービングスタックの詳細を示している。

By · Published

Illustration of Moonshot's Kimi K3 2.8T model architecture showing hybrid attention, 16-of-896 expert routing, and a data-center scale serving stack.

7月27日付の報告書は、ハイブリッドアテンション、896のエキスパート中16のルーティング、そして依然としてデータセンター規模を要求するサービングスタックの詳細を示している。