Jeff Dean y tres investigadores de Google lanzan Discovery Loop para investigación automatizada

Why it matters

Discovery Loop concentrates decades of Google systems and AI experience around self-improving research software, while Google's investment lets it retain exposure to work leaving its own labs.

Jeff Dean (@JeffDean), Sanjay Ghemawat, Oriol Vinyals, and Quoc Le han dejado Google para lanzar Discovery Loop, una operación de investigación en IA construida para automatizar el ciclo repetitivo de proponer, ejecutar y evaluar experimentos, informó Wired el 5 de agosto.

Las salidas incorporan a cuatro investigadores con lazos excepcionalmente profundos con los cimientos técnicos de Google en una nueva corporación de beneficio público. Dean y Ghemawat pasaron casi 27 años en Google, donde sus colaboraciones incluyeron MapReduce, Bigtable e infraestructura central de búsqueda. Dean también cofundó Google Brain, ayudó a diseñar TensorFlow y Pathways, y se desempeñó como científico jefe de Google con un rol de liderazgo en Gemini. Vinyals dirigió la investigación de aprendizaje profundo en Google DeepMind y trabajó en Gemini y AlphaStar. Le, miembro fundador de Google Brain, trabajó en búsquedas de arquitectura neuronal y AutoML-Zero, un esfuerzo para evolucionar algoritmos de aprendizaje automático a partir de operaciones matemáticas básicas.

Discovery Loop se organizó en cuestión de semanas, según el relato de los fundadores a Wired. Los cuatro son colegas y amigos de larga data que vacacionan juntos, y la división inicial de responsabilidades parece informal. Preguntado quién dirigiría Discovery Loop, Dean dijo a Wired, "Creo que soy el CEO."

Esa laxitud refleja lo incipiente que está Discovery Loop. Al momento de la entrevista previa al lanzamiento de Wired, los fundadores no habían contratado empleados ni alquilado una oficina. El sitio web de Discovery Loop ahora dice que pretende construir un equipo reducido y presencial.

Discovery Loop experimentará primero consigo mismo

El punto de partida de Discovery Loop es la investigación en aprendizaje automático más que un laboratorio físico. Los fundadores planean construir sistemas que generen posibles experimentos, implementen el código necesario para probarlos, evalúen los resultados y usen esos resultados para seleccionar el siguiente experimento. Discovery Loop dice que la infraestructura podría eventualmente ejecutar miles de estos bucles en paralelo.

El primer cliente será la propia Discovery Loop. Los fundadores pretenden dirigir los bucles automatizados a mejorar sus propios modelos y herramientas de investigación, y luego llevar el software resultante a campos como diseño de chips, biología, descubrimiento de fármacos y ciencia de materiales.

Esa secuencia les da a los fundadores un lugar controlado para probar la premisa. Los experimentos de aprendizaje automático producen resultados medibles y a menudo pueden ejecutarse enteramente en software, evitando el equipo, los materiales, los controles de seguridad y los largos plazos que implican la investigación de laboratorio húmedo. Un trabajo interno exitoso también podría mejorar el sistema que conduce la siguiente ronda de investigación, creando el efecto de acumulación detrás del nombre Discovery Loop.

Le ha planteado la posibilidad de que el proceso pueda descubrir alternativas a la arquitectura transformer. Vinyals identificó la generación de ideas como un problema técnico central, diciendo a Wired que los modelos actuales siguen siendo débiles al proponer direcciones nuevas y útiles. Discovery Loop espera inicialmente que humanos y sistemas de IA desarrollen ideas juntos, con una mayor automatización como objetivo a más largo plazo.

El trabajo de los fundadores en Google no establece que la experimentación automatizada pueda producir de forma confiable hallazgos científicos originales.

Google mantiene un vínculo económico y computacional

Google tomará una participación accionaria en Discovery Loop, proporcionará recursos de computación para su primer año y seguirá siendo un socio en la nube.

El acuerdo preserva una ruta de regreso al trabajo. Google pierde a cuatro constructores senior durante una costosa competencia por investigadores de IA, mientras retiene exposición accionaria, potencial de ingresos por nube y una relación técnica con Discovery Loop. Los fundadores obtienen acceso a la capacidad de cómputo necesaria para ejecutar un gran número de experimentos antes de que hayan construido infraestructura independiente.

Khosla Ventures y Radical Ventures también invirtieron, junto con otras firmas. Se espera que Jordan Jacobs, socio director de Radical Ventures, se una al consejo de Discovery Loop.

Las inversiones respaldan a un equipo cuyos miembros trabajaron en varios de los sistemas centrales y proyectos de IA de Google. Dean y Ghemawat ayudaron a crear sistemas que permitieron a Google procesar y almacenar información a escala global. Vinyals y Le pasaron sus carreras avanzando modelos que aprenden secuencias, juegan juegos complejos y buscan mejores métodos de aprendizaje automático. Discovery Loop combina esas especialidades alrededor de una sola proposición: el trabajo científico puede representarse como un sistema computacional repetible y acelerarse en consecuencia.

La investigación automatizada ya tiene competidores

Discovery Loop entra en un campo con prototipos funcionales y equipos con fuerte financiamiento. AI Scientist de Sakana AI genera ideas de investigación, escribe código, ejecuta experimentos, analiza resultados y redacta artículos.

Autoscience está construyendo de forma similar herramientas automatizadas para investigación en aprendizaje automático. Otros grupos, incluyendo FutureHouse, Lila Sciences y Periodic Labs, persiguen descubrimiento científico asistido por IA o experimentación autónoma, con algunos poniendo mayor énfasis en biología y laboratorios físicos.

El enfoque inicial de Discovery Loop en mejorar sistemas de aprendizaje automático separa su primer paso de las empresas que ensamblan laboratorios robóticos. Los fundadores apuestan a que la automatización de la investigación debe comenzar donde los experimentos son baratos de repetir, los resultados pueden puntuarse y las herramientas subyacentes pueden ayudar a mejorarse a sí mismas.

La prueba técnica más difícil será decidir qué experimentos merecen ejecutarse. Generar código y despachar cómputo puede aumentar el volumen de pruebas. El progreso científico todavía depende de hipótesis útiles, métodos de evaluación válidos y resistencia a conclusiones plausibles pero incorrectas. El énfasis de Vinyals en la generación de ideas coloca ese problema dentro de la agenda de investigación declarada de Discovery Loop en lugar de tratarlo como resuelto.

Dean anticipó la tesis públicamente el 25 de julio en Startup School de Y Combinator, describiendo un método científico automatizado ante una audiencia de aproximadamente 6,000 personas. Discovery Loop ya se había organizado, aunque no la identificó desde el escenario.

El movimiento sigue una migración más amplia de investigadores senior en IA hacia instituciones más pequeñas donde pueden controlar agendas de investigación y asignación de capital. El 5 de agosto, RuntimeWire también informó que Yann LeCun se unió a la recién lanzada 224 Ventures, otro ejemplo de un investigador establecido que se mueve fuera de la estructura de una compañía tecnológica dominante.

La apuesta de Dean tiene una continuidad apropiada. Pasó décadas convirtiendo tareas informáticas difíciles en infraestructura reutilizable que miles de ingenieros pudieran operar a escala. Discovery Loop aplica el mismo instinto de sistemas a la práctica de la investigación en sí. Ahora los fundadores deben demostrar que el juicio científico puede escalar junto con la maquinaria que lo rodea.