Pokee AI lanza modelo de agente de 28B, afirma 10 millones de tokens en una sola RTX 4090
Pokee no ha publicado los pesos del modelo, configuraciones detalladas de prueba ni suficiente información de la arquitectura para evaluar de manera independiente sus afirmaciones sobre el manejo de contextos largos y el rendimiento.
By Ryan Merket · Published · Updated
Primary source: Pokee AI on X
Por qué importa
Un modelo usable de 10 millones de tokens en una sola GPU podría reducir los costos de inferencia de agentes y mantener los datos empresariales sensibles en hardware privado. Las afirmaciones de Pokee aún necesitan replicación independiente.
Zheqing (Bill) Zhu (@ZheqingZhu), fundador y CEO de Pokee AI, lanzó Pokee-Isaac 28B el martes 4 de agosto, con resultados reportados por el proveedor que sugieren que el modelo agente propietario puede manejar 10 millones de tokens de contexto en una sola GPU de la clase Nvidia RTX 4090.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.