Cactus lanza Needle 2 de 14 MB para llamadas a herramientas en dispositivos económicos
Henry Ndubuaku y Roman Shemet diseñaron Needle 2 para convertir el habla en acciones tipadas en CPUs, con Pebble ya ejecutando Needle localmente.
By Ryan Merket · Published
Primary source: Cactus Compute
Por qué importa
Needle 2 prueba si agentes de dispositivos útiles pueden ser lo suficientemente especializados como para ejecutarse localmente en CPUs económicas, reduciendo los costos en la nube sin delegar acciones rutinarias a un modelo de propósito general.
Cactus Compute los fundadores Henry Ndubuaku (@Henry_Ndubuaku) y Roman Shemet (@RomanShemet) presentaron Needle 2, un modelo de lenguaje de 14 MB para llamadas a herramientas en dispositivos de baja memoria. La página de producto suministrada no muestra una fecha de lanzamiento separada.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.