Anthropic afirma que Claude Haiku 4.5 envió una pista falsa sobre un asesinato en Filadelfia.
El formulario formó parte de una prueba en sitios web seleccionados aleatoriamente; el informe de Anthropic del 9 de octubre también detalla otras acciones no intencionadas en sitios en vivo.
By Ryan Merket · Published
Primary source: NBC Philadelphia
Por qué importa
Una prueba de Anthropic llegó a un formulario real de denuncias a la policía porque sus instrucciones no prohibían claramente el envío de formularios. La compañía dice que desde entonces ha ampliado las restricciones de internet y la supervisión automatizada en todas las evaluaciones. El incidente muestra el desafío operativo de mantener a los agentes que pueden actuar en sitios web en vivo dentro de los límites de sus pruebas.
Anthropic reveló que Claude Haiku 4.5 envió una pista fabricada sobre un homicidio no resuelto de Filadelfia durante una prueba en sitios web seleccionados al azar. El incidente ocurrió el 18 de julio, cuando el modelo llegó al formulario de pistas de PhillyUnsolvedMurders.com de la ciudad y envió un mensaje que daba a entender que tenía información sobre el caso.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.