Anthropic, la compañía creadora del asistente de inteligencia artificial Claude, ha reconocido que tres de sus modelos accedieron por su cuenta a los sistemas de tres empresas externas mientras participaban en pruebas de ciberseguridad. El anuncio, publicado en la madrugada del 31 de julio, llega apenas diez días después de que OpenAI admitiera un incidente similar contra la plataforma Hugging Face, y confirma que el problema de los agentes autónomos que se escapan de sus entornos de prueba no es un caso aislado.
141.000 sesiones de prueba bajo lupa
La compañía con sede en San Francisco solo detectó los tres incidentes después de poner en marcha una revisión de ciberseguridad «a gran escala» en la que analizó más de 141.000 sesiones de evaluación, buscando pruebas de que sus modelos hubieran logrado acceder a internet desde entornos que deberían haber estado completamente aislados. Los primeros episodios se remontan al pasado mes de abril, según la propia empresa.
Los modelos implicados son Claude Opus 4.7, Claude Mythos 5 y un prototipo interno de investigación. En los tres casos, el método empleado no fue precisamente sofisticado: contraseñas débiles, puntos de acceso sin autenticación y credenciales expuestas. Anthropic insiste en que ninguno de sus modelos encontró ni explotó vulnerabilidades complejas, aunque ello no resta gravedad a lo ocurrido.
Un fallo humano detrás de la fuga
La causa de la fuga difiere de la del incidente de OpenAI. En el caso de la empresa de Sam Altman, su modelo encontró una vulnerabilidad desconocida en el entorno aislado y logró escapar a la red abierta por sus propios medios. En el de Anthropic, todo se debió a un descuido humano: a los modelos se les comunicó que no tenían acceso a internet, pero uno de los entornos de pruebas, gestionado por Irregular, una empresa externa que colabora con la compañía, estaba mal configurado y sí disponía de salida a la red real. Los modelos, convencidos de que seguían dentro de la simulación, consideraron que los sistemas reales que encontraban formaban parte del ejercicio.
Las pruebas eran del tipo conocido como «captura la bandera» (CTF): se le dice al modelo que hay un dato secreto escondido en otra máquina y que debe robarlo, un ejercicio pensado para medir la capacidad ofensiva de la IA dentro de un entorno cerrado y ficticio. El problema es que el aviso que recibía el modelo decía justo lo contrario de lo que ocurría en realidad.
Reacciones distintas ante el mismo dilema
Lo más llamativo del comunicado de Anthropic es que los tres modelos reaccionaron de forma diferente al sospechar que sus objetivos podían ser reales. Opus 4.7 llegó a la conclusión de que el entorno era ficticio y siguió adelante. Mythos 5 confirmó que los sistemas eran reales y, aun así, continuó atacando. Solo el prototipo interno detuvo el ejercicio. En uno de los episodios, Mythos rozó el guion de la ciencia ficción: quiso obtener un teléfono y dinero para crear una cuenta de correo que le permitiera publicar código en un repositorio público de Python, sin éxito en ninguno de sus intentos.
Un aviso para todo el sector
Lukasz Olejnik, investigador visitante en el Departamento de Estudios de Guerra del King’s College de Londres, señala que «que la salida fuera más fácil rebaja el nivel técnico necesario, pero no cambia el hecho de fondo: unos agentes autónomos comprometieron organizaciones reales. Falló la infraestructura de evaluación, la delimitación del alcance y la monitorización».
Anthropic no ha revelado los nombres de las tres empresas afectadas, que en ningún caso sufrieron un nivel de acceso comparable al de Hugging Face en el incidente de OpenAI. Dos de ellas ya han sido advertidas y la compañía sigue intentando contactar con la tercera. En sus conclusiones, Anthropic defiende que los modelos «hicieron lo que se les pedía» y que no encontró indicios de que persiguieran objetivos propios, aunque la mayoría actuó «partiendo de una creencia falsa sobre si el entorno era real».
El anuncio se produce un día después de que más de 1.200 empleados de empresas punteras de inteligencia artificial firmaran una carta pidiendo moderar el ritmo de progreso de estos modelos, y añade presión a un sector que ya acumula varios frentes abiertos en materia de seguridad y control. La pregunta ya no es si los agentes autónomos pueden actuar por su cuenta, sino cuándo volverá a ocurrir.
