OpenAI reporta una mejora de 16x en los tiempos de carga para hilos gigantes de ChatGPT y Codex
Un hilo de 741 turnos y 231 MB se cargó en 1.66 segundos en una prueba, con menor crecimiento de memoria y 98% menos solicitudes.
By Ryan Merket · Published
Primary source: X
Por qué importa
Los productos Agent residen cada vez más en hilos largos y cargados de herramientas. La prueba de OpenAI sugiere que el cliente de escritorio puede mantener esos historiales utilizables sin cargar cada elemento de la transcripción de una sola vez.
Andrew Ambrosino (@ajambrosino), who leads OpenAI's Codex desktop app, ha medido con una prueba comparativa un nuevo enfoque para cargar conversaciones extremadamente largas de ChatGPT y Codex, reduciendo el tiempo de carga del hilo de prueba de 27.62 segundos a 1.66 segundos.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.