MemTensor lanza los modelos Metis que escriben memoria dentro del backbone

Why it matters

Persistent state is becoming a core constraint for agents that operate across days and applications. Metis tests whether some of that state can move from vector databases and prompts into the model's computation itself.

MemTensor, el desarrollador de IA de Shanghái fundado por el exejecutivo de datos de Alibaba Xiong Feiyu, lanzó una familia de modelos diseñados para mantener memoria dentro del backbone del modelo en lugar de recuperar repetidamente texto antiguo desde una base de datos externa.

El lanzamiento de Metis, presentado como un artículo de investigación el 29 de julio, incluye modelos etiquetados 4B, 9B y 27B. La colección de Hugging Face enumera sus tamaños completos en aproximadamente 5 mil millones, 9 mil millones y 28 mil millones de parámetros, respectivamente, y dice que la familia se basa en Qwen3.5. Adina Yakup (@AdinaYakup) destacó el lanzamiento en un hilo del 31 de julio en X.

Metis es la expresión a nivel de modelo de la tesis que Xiong ha perseguido desde que formó MemTensor en noviembre de 2024: los agentes de larga duración necesitan un estado que persista a lo largo de las interacciones. Xiong dirigió anteriormente la inteligencia de datos para la plataforma de negocios de Alibaba y la plataforma de datos que sirve a Taobao y Tmall, según la cobertura de 36Kr sobre MemTensor. Estableció el Large Model Center en el Shanghai Algorithm Innovation Research Institute en julio de 2023 antes de escindir el grupo en MemTensor.

"La memoria se está convirtiendo en la nueva infraestructura en la era de los agentes", dijo Xiong a 36Kr.

Memoria sin reproducir la transcripción

La mayoría de los sistemas de memoria de agentes guardan la información fuera del modelo de lenguaje, recuperan registros seleccionados e insertan esos fragmentos en un prompt posterior. Ese enfoque da a los desarrolladores un almacén inspeccionable, aunque cada consulta puede requerir recuperación, clasificación y otra pasada por el texto seleccionado.

Metis, en cambio, inserta bloques de memoria en las capas del Transformer. Un bloque de memoria local mantiene una matriz dinámica a lo largo de los pasos de interacción. Un segundo componente selecciona información de los estados ocultos, actualiza esa matriz y luego lee desde ella a través de una ruta de atención de memoria dedicada. Los pesos aprendidos del modelo permanecen congelados durante la inferencia; el estado de memoria cambia mediante computación hacia adelante sin actualizaciones de gradiente.

En términos prácticos, un desarrollador puede dar información a Metis en una interacción, registrar ese intercambio en el estado de memoria del modelo y preguntar sobre ello más tarde sin reenviar el texto original. El estado tiene un tamaño fijo, por lo que el costo de consultarlo no crece directamente con toda la transcripción.

Los autores describen a Metis como el primer prototipo de un "memory foundation model" (modelo fundacional de memoria), una categoría que definen como modelos con estado interno persistente y procedimientos aprendidos para recordar, actualizar y olvidar. Esa primera reivindicación corresponde a los investigadores. Trabajos anteriores han explorado estado recurrente, adaptación en tiempo de prueba, memoria paramétrica y redes neuronales aumentadas con memoria, y el artículo dedica un espacio considerable a distinguir Metis de esos enfoques.

Un adelanto de investigación con límites visibles

El propio lanzamiento de MemTensor traza un límite firme alrededor de lo que se ha publicado. El repositorio de GitHub incluye la arquitectura, ejemplos de inferencia, un arnés de entrenamiento y evaluación, código y puntos de control oficiales. Omite los datos de entrenamiento. El código del repositorio usa la PolyForm Noncommercial License, que prohíbe el uso comercial sin un acuerdo separado. El repositorio también indica que los pesos del modelo y los conjuntos de datos se rigen por separado de esa licencia de software.

El artículo informa que Metis tiene un rendimiento sólido en las evaluaciones de operaciones de memoria de los investigadores y se transfiere a tareas de memoria fuera de distribución. Esos resultados aún deben acumular una amplia replicación independiente. Los autores también documentan la compensación central: comprimir la historia en un estado de tamaño fijo pierde información a medida que las tareas se alargan. Reportan confusión ocasional cuando múltiples fragmentos de información se mezclan en el espacio latente de la memoria, y sus experimentos muestran que el acceso al texto fuente completo sigue siendo la configuración más efectiva en varias operaciones de memoria.

Eso convierte a Metis en un experimento de arquitectura más que en un sustituto terminado para la generación aumentada por recuperación. La hoja de ruta de MemTensor mantiene explícitamente en consideración los sistemas híbridos, combinando estado interno con almacenes externos cuando importan registros exactos, historiales largos o material fuente auditable.

MemTensor persigue la memoria en dos capas

Metis sigue a MemOS, el marco separado de MemTensor para almacenar, recuperar y gobernar memoria externa para modelos y agentes. Los dos productos dan a Xiong rutas paralelas hacia el mismo mercado. MemOS puede funcionar como infraestructura alrededor de modelos existentes, mientras que Metis pide a los desarrolladores adoptar una arquitectura de modelo entrenada en torno a la memoria nativa.

Esa estrategia ha atraído capital vinculado al hardware y a dispositivos. En julio, MemTensor completó una ronda Pre-A de 100 millones de yuanes de Hubble Investment de Huawei, Honor Strategic Investment, SenseTime Guoxiang Capital, Shenzhen Venture Capital y Yu Capital, según 36Kr. Una ronda angel anterior de casi 100 millones de yuanes incluyó a Fusion Capital, Suanfeng Information y CICC Capital. MemTensor no ha publicado una valoración post-money.

La mezcla de inversores encaja con la apuesta técnica. Los dispositivos y agentes persistentes no pueden permitirse repetir una conversación en expansión cada vez que actúan. Un estado interno compacto podría reducir el procesamiento repetido del contexto y preservar la continuidad en hardware con límites más estrictos de cómputo y latencia. Metis aún debe demostrar que su estado comprimido puede mantenerse preciso, controlable y recuperable a lo largo de los flujos de trabajo largos donde la memoria importa más.