Lilian Weng regresa a OpenAI para investigar la auto-mejora recursiva

Why it matters

OpenAI is reclaiming a third Thinking Machines cofounder and assigning Weng to research that could shorten the cycle for designing, training and evaluating successor models.

Lilian Weng (@lilianweng) regresará a OpenAI para trabajar en el uso de sistemas de IA para desarrollar nuevos modelos, según reportes de The Information el miércoles.

El movimiento lleva a Weng de regreso al laboratorio donde pasó casi siete años trabajando en robótica, IA aplicada y seguridad de modelos. Dejó OpenAI en noviembre de 2024, meses después de convertirse en vicepresidenta de investigación y seguridad, y cofundó Thinking Machines Lab con la ex directora de tecnología de OpenAI, Mira Murati.

El regreso de Weng sigue a su decisión esta semana de dejar Thinking Machines Lab. Citó el costo para su salud del trabajo en una startup, incluyendo estrés sostenido y enfermedades recurrentes, y dijo que el 29 de julio sería su último día. Thinking Machines Lab exigía a una fundadora responsabilidades amplias y un horario incierto; Weng dijo que quería límites más claros y un entorno de trabajo más predecible.

OpenAI le está dando una misión técnicamente ambiciosa. Stephanie Palazzolo (@steph_palazzolo), quien informó sobre el movimiento junto con Amir Efrati, describió el trabajo como auto-mejora recursiva: usar IA para ayudar a crear mejores modelos de IA.

Weng ya había presentado una versión detallada de esa agenda de investigación. En un ensayo del 4 de julio en su blog técnico, escribió que la auto-mejora recursiva puede ir más allá de que un modelo reescriba directamente sus propios pesos. Un sistema de IA podría, en cambio, mejorar la canalización de entrenamiento, las herramientas, los métodos de evaluación y el software de despliegue usados para producir un modelo sucesor.

Ese enfoque pone al sistema de ingeniería circundante, a menudo llamado 'harness', en el centro del trabajo. El 'harness' controla cómo un modelo planifica, usa herramientas, administra el contexto, registra resultados y evalúa sus propios intentos. Automatizar partes de ese ciclo podría permitir a los investigadores realizar más experimentos y refinar métodos de entrenamiento más rápido, manteniendo al mismo tiempo a las personas responsables de los objetivos, la evaluación y la asignación de cómputo.

La experiencia de Weng abarca varias de las disciplinas necesarias para ese trabajo. Contribuyó a la investigación Dactyl de OpenAI, incluido el proyecto que entrenó una mano robótica para resolver un cubo de Rubik, antes de profundizar en la seguridad de modelos. Más tarde creó y dirigió la organización Safety Systems de OpenAI, que trabajó en evaluaciones y salvaguardas para modelos desplegados. Sus ensayos técnicos Lil'Log también han tratado sobre aprendizaje por refuerzo, manipulación de recompensas, agentes autónomos, leyes de escalado y razonamiento en tiempo de prueba.

La contratación continúa la captación por parte de OpenAI de personas que se fueron para ayudar a construir Thinking Machines Lab. En enero, los cofundadores de Thinking Machines Lab Barret Zoph y Luke Metz regresaron a OpenAI, junto con el investigador Sam Schoenholz. Weng es la tercera cofundadora de Thinking Machines Lab en hacer ese regreso en 2026.

Ese flujo de talento importa porque Thinking Machines Lab fue financiado en gran medida por la trayectoria de Murati y los exinvestigadores de OpenAI a su alrededor. Thinking Machines Lab recaudó una ronda semilla de $2 mil millones con una valuación de $12 mil millones en 2025, antes de lanzar un modelo o producto. La financiación estuvo entre las mayores apuestas en etapa temprana hechas a un grupo de investigación en IA cuyo activo principal era su personal.

Thinking Machines Lab comenzó a respaldar esa apuesta con Tinker, su plataforma de personalización de modelos, e Inkling, un modelo de pesos abiertos lanzado el 15 de julio. Thinking Machines Lab ha orientado su investigación hacia modelos personalizables y la colaboración humano-IA en lugar de competir únicamente por la puntuación más alta en benchmarks de propósito general.

La salida de Weng elimina a una fundadora con experiencia que abarca desarrollo de modelos, Safety Systems y gestión de investigación poco después de ese primer lanzamiento de modelo. Su destino agrava la pérdida: OpenAI está reclamando a investigadores de un laboratorio fundado en parte como un hogar alternativo para exalumnos de OpenAI.

Para OpenAI, la contratación suma una líder de investigación experimentada a un campo que los laboratorios de vanguardia cada vez ven más como una forma de acelerar el desarrollo de modelos. OpenAI publicó recientemente un trabajo que usa self-play para entrenar equipos rojos de seguridad automatizados, otro ejemplo de sistemas de IA que generan y evalúan trabajo que alimenta el entrenamiento subsecuente.

El informe de The Information no especifica el título de Weng, su estructura de reporte ni la fecha de inicio. El mandato declarado, sin embargo, coincide estrechamente con la dirección técnica que ella ha estado desarrollando públicamente: cerrar más del ciclo de desarrollo de modelos con IA mientras se enfrenta a los problemas de evaluación, memoria y diseño de recompensas que pueden hacer que la mejora automatizada sea poco confiable.