Kimi.ai publica los pesos y el informe para K3, un modelo MoE de 2.8T con contexto de 1 millón de tokens

El lanzamiento incluye puntos de control y un artículo técnico que afirman 2.5x más inteligencia por unidad de cómputo y comprensión visual nativa.

By · Published

Primary source: X

Why it matters

Open‑source release of a trillion‑scale multimodal model lets developers experiment without waiting for proprietary APIs.

Kimi.ai releases weights and report for K3, a 2.8T MoE model with 1M-token context

Kimi.ai hace público su modelo más grande

El 27 de julio de 2026, Kimi.ai anunció en X que estaba publicando los pesos del modelo y un informe técnico de K3, su oferta más capaz hasta la fecha. La publicación indica que K3 es un modelo de mezcla de expertos (Mixture‑of‑Experts, MoE) de 2.8 billones de parámetros que admite comprensión visual nativa y una ventana de contexto de 1 millón de tokens. También destaca una nueva arquitectura que, según la compañía, ofrece 2.5× más inteligencia por unidad de cómputo que los diseños anteriores. El anuncio enlazó a un informe técnico alojado en una URL separada (https://t.co/Yz5uWeMbIm) e incluyó una imagen del esquema del modelo.

Diagrama del modelo K3

Qué significan las especificaciones en contexto

Las arquitecturas MoE se han convertido en la estrategia de escalado de facto para modelos de billones de parámetros. GLaM de Google, por ejemplo, demostró que expertos activados de forma dispersa pueden mantener los costos de entrenamiento manejables al tiempo que ofrecen un rendimiento sólido en puntos de referencia de lenguaje. El tamaño de 2.8T de K3 lo sitúa entre los modelos MoE públicamente divulgados más grandes, superando el recuento de parámetros de la mayoría de las publicaciones de código abierto que normalmente se mantienen por debajo de 1T.

La ventana de contexto de 1 millón de tokens es un orden de magnitud mayor que las ventanas de 8k–32k tokens que dominan las API comerciales actuales, como GPT‑4o de OpenAI o Claude de Anthropic. Un contexto más largo permite aplicaciones que requieren el procesamiento de documentos extensos, bases de código o fotogramas de video sin fragmentarlos, una capacidad que ha sido un cuello de botella para muchos desarrolladores posteriores.

La comprensión visual nativa indica que el modelo puede ingerir imágenes directamente junto con texto, una característica que anteriormente se había limitado a sistemas multimodales que tratan la visión como un codificador separado. Al integrar la visión de forma nativa, K3 promete un razonamiento cruzado entre modalidades más estrecho, una afirmación que será comprobable una vez que la comunidad ejecute los puntos de referencia publicados.

Por qué importa ahora la publicación de los pesos

Las publicaciones de código abierto de modelos a esta escala son raras. La mayoría de las organizaciones mantienen los pesos de gran tamaño detrás de APIs comerciales, citando preocupaciones sobre el uso indebido, el costo de cómputo y la ventaja competitiva. Al poner K3 a disposición, Kimi.ai se une a una pequeña cohorte —incluyendo la serie LLaMA‑2 de Meta y GPT‑NeoX de EleutherAI— que ha optado por sembrar el ecosistema de investigación con modelos de alta capacidad.

El informe técnico que acompaña a los pesos detalla la afirmación de “2.5× de inteligencia por cómputo”. Aunque la compañía no proporciona una cita formal en la publicación, la redacción sugiere una mejora de eficiencia sobre las leyes de escalado base de transformadores densos. Si se valida, esto podría reducir la barrera de hardware para entrenar y ajustar modelos a gran escala, un punto de interés para laboratorios que carecen de clústeres a escala de petaflops.

Motivos estratégicos potenciales

Se pueden inferir varios incentivos a partir del momento y la naturaleza de la publicación. Primero, ofrecer un modelo emblemático ayuda a Kimi.ai a atraer talento y establecer credibilidad en un panorama de IA de código abierto cada vez más concurrido. Segundo, los pesos abiertos generan datos de referencia que se pueden aprovechar para mostrar el rendimiento de K3 en futuros anuncios de producto o acuerdos de licencia. Finalmente, la publicación puede ser una respuesta táctica a la creciente demanda de capacidades multimodales y de largo contexto por parte de clientes empresariales que actualmente se ven obligados a ensamblar servicios separados.

Qué pueden hacer los desarrolladores a continuación

Se espera que los checkpoints publicados se alojen en un bucket público (la publicación en X no especifica la ubicación exacta). Los investigadores pueden clonar el repositorio, reproducir los experimentos descritos en el informe técnico y explorar vías de ajuste fino para tareas específicas de dominio, como el análisis de documentos legales, la revisión de literatura científica o la generación de subtítulos para video.

Sin embargo, la mera escala de un modelo MoE de 2.8T significa que la inferencia aún requerirá una memoria de GPU sustancial: las estimaciones basadas en despliegues MoE similares sugieren múltiples GPUs de alto ancho de banda por solicitud de inferencia. Los practicantes tendrán que equilibrar las capacidades del modelo frente a estos costos operativos, una compensación que ha marcado la adopción de gigantes de código abierto anteriores.

La carrera más amplia de la IA

El movimiento de Kimi.ai subraya un cambio más amplio: a medida que las capacidades de los modelos fundamentales se saturan, la diferenciación proviene cada vez más de avances en eficiencia e integración multimodal. La afirmación de 2.5× de eficiencia de cómputo, si se corrobora, podría establecer un nuevo punto de referencia para futuros proyectos de código abierto e influir en cómo el capital de riesgo evalúa a las startups de IA “eficientes en cómputo”.

Por ahora, la comunidad de IA tendrá un nuevo y considerable modelo que diseccionar, evaluar y sobre el que construir. El impacto a largo plazo dependerá de la rapidez con la que las afirmaciones técnicas se traduzcan en rendimiento en el mundo real y de si el ecosistema de código abierto puede desarrollar las herramientas necesarias para aprovechar un sistema MoE de un billón de parámetros.


Fuentes: Publicación de Kimi.ai en X (27 de julio de 2026) (Kimi.ai).

Reader comments

Conversation for this story loads after sign-in.