Nicholai Mitchko lanza DeepSeek, pila de razonamiento latente autoalojada para GPUs Blackwell
El director de IA de InterSystems emparejó una cabeza de razonamiento CoLaR con un backbone DeepSeek-V4-Flash cuyos expertos MoE enrutados usan NVFP4, mientras que la atención, los expertos compartidos, la cabeza LM y el bloque de borrador permanecen a mayor precisión. Su único benchmark publicado presenta cifras agregadas contradictorias y no cuenta con replicación independiente.
By Ryan Merket · Published
Primary source: Nicholai Mitchko's AI Research blog
Por qué importa
Mitchko ha puesto a disposición un sistema de razonamiento latente como pesos más código de servicio ejecutable, proporcionando a los equipos de inferencia una prueba concreta del cómputo de estados ocultos. Su ruta vLLM especializada, el elevado requisito de memoria de Blackwell y el benchmark no replicado muestran cuán lejos sigue estando el enfoque de un despliegue rutinario.
Nicholai Mitchko, director de habilitación de IA de InterSystems, ha publicado un modelo de razonamiento latente autoalojado construido alrededor de DeepSeek-V4-Flash. El modelo realiza cómputo intermedio en estados ocultos antes de generar una respuesta visible, pero para servirlo se requiere hardware Nvidia de clase Blackwell y el código de inferencia especializado de Mitchko.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.