Base Compute encarga a los agentes de IA la tarea de ajuste del kernel para modelos abiertos
La demostración de B:OS llevó a Nemotron 3 Nano de no soportado a una decodificación 1.43x más rápida que MLX en Apple silicon, según las pruebas de Base Compute.
By RuntimeWire Staff · Published
Primary source: Hugging Face Newsroom
Por qué importa
Los lanzamientos de pesos abiertos solo son útiles a nivel local cuando los entornos de ejecución se ponen al día. Base Compute apuesta a que el trabajo agencial en el kernel puede acortar ese rezago y hacer que el soporte por chip sea económicamente repetible.
Lukas Wesemann, Prabod Rathnayaka and Fabian Waschkowski publicaron resultados el 20 de agosto de un sistema que asigna a agentes de IA el trabajo de bajo nivel de portar modelos con pesos abiertos a nuevos procesadores y afinar sus kernels.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.