Ollama agrega modelos de decisión locales para enrutamiento y moderación
El lanzamiento del 29 de septiembre incorpora a Nimble de Bespoke Labs y a dos modelos de Together AI a la nueva API /v1/systemone de Ollama, que devuelve respuestas tipadas en lugar de prosa generada.
By Ryan Merket · Published
Primary source: Ollama on X
Por qué importa
Ollama está incorporando clasificación tipada y puntuación en su flujo de trabajo de modelos locales. Eso les da a los desarrolladores una forma de probar decisiones en el dispositivo con menor latencia, mientras que los resultados de moderación publicados muestran por qué los equipos aún necesitan sus propias evaluaciones y umbrales de revisión humana.
El anuncio del 29 de septiembre de Ollama añade modelos de decisión que se ejecutan localmente a su ejecutor de modelos, dando a los desarrolladores una API para tareas de clasificación y enrutamiento que devuelve respuestas acotadas en lugar de texto de chat. El nuevo endpoint /v1/systemone está disponible en Ollama 0.35 y acepta texto o datos estructurados como un state, además de preguntas nombradas que solicitan una elección, un resultado de sí o no, o una puntuación.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.