Google DeepMind inicia pruebas piloto de evaluaciones de IA a doble ciego sin compartir los prompts ni los pesos del modelo
Google DeepMind dice que su piloto mantiene privadas las indicaciones de evaluación externas y los pesos del modelo, aunque su afirmación de ser la primera de su tipo sigue sin ser verificada de forma independiente.
By RuntimeWire Staff · Published
Primary source: Google DeepMind
Por qué importa
Las auditorías de modelos cerrados pueden obligar a los evaluadores a exponer pruebas privadas o a los desarrolladores a compartir los valiosos pesos del modelo. Un proceso doble ciego creíble podría proteger a ambos, pero Google DeepMind no ha divulgado lo suficiente sobre su piloto para evaluar su seguridad, sus resultados o la independencia de los evaluadores.
Google DeepMind, el laboratorio de IA cofundado por Demis Hassabis, dijo el 27 de agosto que está pilotando un sistema de evaluación doble ciego destinado a permitir que terceros prueben modelos de vanguardia sin exponer el material sensible de ninguna de las partes.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.