Castform y Neon dicen que un modelo 4B igualó a GPT-5.6 Sol a un costo 100 veces menor.

Un estudio de caso de Neon afirma que un modelo especializado "open-weight" igualó a GPT-5.6 Sol en precisión de recuperación mientras costaba alrededor de 100 veces menos por carga de trabajo de inferencia.

By · Published

Primary source: Neon

Por qué importa

El resultado de Castform sugiere que el postentrenamiento específico para la tarea puede hacer que modelos abiertos de bajo costo sean competitivos en flujos de trabajo de producción específicos, aunque la afirmación de 100x se basa en un benchmark elaborado por el proveedor con una metodología limitada.

Illustration of Castform and Neon's 4B model compared with GPT-5.6 Sol, with data streams and a gauge showing matching retrieval accuracy at much lower inference cost

Castform cofundador Ying Hang Seah y Neon afirman que un modelo de peso abierto de 4 mil millones de parámetros post-entrenado con Castform recuperó resultados de búsqueda con la misma precisión que OpenAI's GPT-5.6 Sol al tiempo que costaba alrededor de 100 veces menos.…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.