Satya Nadella, de Microsoft, propone un freno de emergencia para los modelos de IA
En un ensayo del 10 de octubre, él argumenta que las empresas deberían separar la inteligencia del modelo de los permisos y controles que rigen sus acciones.
By Ryan Merket · Published
Primary source: X
Por qué importa
La propuesta de Nadella sitúa el riesgo de la IA empresarial en los sistemas que rodean a un modelo: permisos, registros de auditoría, pruebas y control humano. Eso desplaza el trabajo hacia la infraestructura que puede restringir e inspeccionar a los agentes cuando las empresas los conectan a datos y herramientas sensibles.
Satya Nadella (@satyanadella), presidente y CEO de Microsoft, argumentó en una publicación en X publicada el 10 de octubre que las empresas deberían tratar a los modelos de IA poderosos como personas con acceso privilegiado: asumir que pueden verse comprometidos, limitar lo que pueden hacer y mantener a una persona capaz de detenerlos a mitad de la tarea.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.