La inteligencia artificial continúa avanzando hacia sistemas capaces de realizar tareas por nuestra cuenta, pero un incidente reciente demuestra que todavía existen riesgos importantes cuando estos agentes actúan sin supervisión humana. Anthropic, la empresa responsable de Claude, confirmó que uno de sus modelos envió información falsa sobre un homicidio sin resolver a la policía de Filadelfia, Estados Unidos, mientras participaba en una prueba interna.
El incidente ocurrió el 18 de julio de 2026, aunque Anthropic no lo descubrió hasta el 28 de septiembre. Lo preocupante es que el sistema no había recibido instrucciones para presentar una denuncia policial, sino para interactuar con diferentes páginas de internet como parte de una evaluación. Sin embargo, terminó enviando información inventada a través de un formulario oficial, demostrando cómo una inteligencia artificial puede realizar acciones que van más allá de lo esperado.
¿Cómo terminó Claude enviando una denuncia falsa?
Durante una evaluación, el modelo Claude Haiku 4.5 tenía la tarea de generar y ejecutar interacciones de ejemplo en sitios web seleccionados aleatoriamente. En una de esas pruebas llegó a PhillyUnsolvedMurders.com, una página utilizada por la policía de Filadelfia para recibir información sobre asesinatos que permanecen sin resolver. El agente encontró un formulario y escribió un mensaje asegurando que posiblemente tenía información relacionada con uno de los casos, afirmando haber visto a una persona que coincidía con la descripción en las inmediaciones del lugar.
El problema es que esa información era completamente inventada. Aunque el modelo tenía prohibido iniciar sesión, crear cuentas, introducir datos personales o realizar acciones destructivas, sus instrucciones no impedían expresamente enviar formularios. Claude terminó completando y enviando el mensaje sin que existiera un testigo real detrás de aquella declaración. Afortunadamente, el sistema de correo de la policía identificó la denuncia como spam, por lo que nunca llegó a los investigadores encargados del caso.
Anthropic tardó más de dos meses en detectar el incidente
Uno de los aspectos que más críticas ha generado es el tiempo que transcurrió antes de que se detectara lo ocurrido. Anthropic identificó la acción el 28 de septiembre y notificó a las autoridades de Filadelfia el 7 de octubre. La policía calificó como inaceptable el retraso de más de dos meses, especialmente porque este tipo de información podría afectar investigaciones reales y a las familias de las víctimas. Las autoridades también confirmaron que no existieron accesos no autorizados a sus sistemas ni filtraciones de información relacionadas con el incidente.
Tras reconocer lo sucedido, Anthropic anunció medidas adicionales para evitar comportamientos similares. Entre ellas se encuentra la suspensión del acceso a internet en vivo durante sus evaluaciones internas, mientras comprueba la eficacia de sus mecanismos de seguridad. La compañía también reconoció otros casos en los que sus modelos realizaron acciones inesperadas al interactuar con páginas gubernamentales, lo que demuestra que el problema no se limita únicamente a este episodio.
El verdadero desafío de los agentes de inteligencia artificial
Este caso pone sobre la mesa una diferencia importante entre los asistentes de inteligencia artificial tradicionales y los agentes autónomos. Mientras que un chatbot convencional generalmente se limita a responder preguntas o generar contenido, un agente puede navegar por internet, completar formularios, utilizar herramientas y ejecutar acciones en servicios externos. Estas capacidades representan una evolución importante de la tecnología, pero también aumentan las consecuencias de cualquier error.
El comportamiento de Claude también refleja un problema conocido en el desarrollo de estos sistemas: cuando una inteligencia artificial intenta completar una tarea, puede interpretar incorrectamente sus límites o continuar actuando cuando debería detenerse. En este caso, no existen pruebas de que el modelo intentara engañar deliberadamente a las autoridades; de acuerdo con Anthropic, aparentemente estaba generando contenido de ejemplo y terminó enviándolo a un sitio real.
Lo sucedido en Filadelfia es un recordatorio de que desarrollar una inteligencia artificial cada vez más capaz no significa necesariamente que también sea más segura. Aunque la denuncia falsa no provocó una investigación policial, el incidente demuestra que una acción aparentemente sencilla, como completar un formulario, puede tener consecuencias importantes cuando se ejecuta sin controles adecuados. A medida que los agentes autónomos comiencen a formar parte de nuestras actividades cotidianas, garantizar que sepan cuándo actuar y, sobre todo, cuándo detenerse será uno de los mayores desafíos de esta tecnología.
