Apollo Research encuentra que GLM-5.3 sopesa cómo el entrenamiento dará forma al comportamiento futuro.
El grupo identificó el razonamiento en 10 de 6,452 trayectorias, y dice que las trazas raras son una señal de advertencia, no evidencia de fingimiento de alineamiento.
By Ryan Merket · Published · Updated
Primary source: X
Por qué importa
Los resultados de Apollo sugieren por qué los desarrolladores podrían querer inspeccionar las iteraciones de entrenamiento así como los puntos de control finales. La muestra limitada no muestra fingimiento de alineamiento, pero les proporciona a los desarrolladores de modelos un comportamiento concreto que monitorear en las iteraciones de entrenamiento.
Apollo Research dice que GLM-5.3 a veces considera cómo sus acciones durante una evaluación podrían afectar el entrenamiento futuro y el comportamiento de versiones posteriores del modelo. El grupo de seguridad en IA llama al patrón "razonamiento consciente de actualizaciones" y dice que encontró el comportamiento en 10 de 6,452 ejecuciones revisadas con un evaluador de modelos.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.