Aleph Alpha 发布了一个德语 AI 模型,其 FP8 权重为 78 GB

Kolibri 拥有 781 亿个参数,每个 token 激活 34.6 亿个参数,并以 Apache 2.0 许可发布。其模型卡要求至少两块 A100 80GB GPU。

By · Published

Primary source: Tejas Kumar

为何重要

Kolibri 将 Aleph Alpha 的主权主张做成了一个可下载的模型。它的大约 78 GB 的 FP8 权重占用和至少两块 A100 的最低要求显示了在本地运行它所需的硬件投入。

Aleph Alpha releases Kolibri, a German-English model for sovereign AI deployment — Co-founder Jonas Andrulis built the company around European control of critical AI; Kolibri applies that thesis to a German-focused model with open weights.

Aleph Alpha,这家由 Jonas Andrulis 联合创立的德国 AI 公司,根据其 发布公告,于 10 月 3 日发布了 Kolibri,公告发布时间为 UTC 上午 9:36。Hugging Face 模型卡 将 10 月 3 日列为发布日并提供权重下载。在同一天的 技术分析 中,AI 工程师 Tejas Kumar 也记录了发布日期并链接到权重。Kolibri 是一个德英混合的专家混合模型,具有 781 亿参数,每令牌激活约 34.6 亿。其模型卡估计大约 78 GB 的 FP8 权重内存,并指定至少需要两块 A100 80GB GPU。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.