Claude de Anthropic, también. Pocos días después de conocerse que un agente de OpenAI se descontroló y hackeó la plataforma Hugging Face, Anthropic confirma que su modelo de IA Claude ha hackeado tres empresas en una prueba de seguridad.
Según ha detallado Anthropic, un fallo de ajuste técnico permitió que varios modelos de Claude conectaran con la red desde entornos de evaluación que debían haber permanecido totalmente aislados, lo que derivó en accesos no autorizados a la infraestructura de estas tres organizaciones.
El hallazgo se produjo tras una exhaustiva auditoría interna en la que Anthropic revisó 141.006 sesiones de prueba. La revisión se activó la semana pasada a raíz de que OpenAI hiciera público que un agente autónomo basado en sus modelos se saltó los controles durante un test de ciberseguridad y terminó comprometiendo los sistemas de Hugging Face.
Ciberataques con técnicas básicas
Desde la compañía aclaran que Claude vulneró la seguridad de las organizaciones afectadas empleando técnicas relativamente sencillas, como la explotación de contraseñas débiles y el acceso a puntos de enlace sin autenticación.
El incidente salpica a tres de sus versiones: Claude Opus 4.7, Claude Mythos 5 y un modelo de investigación interna. Los primeros accesos no autorizados se remontan al mes de abril y ocurrieron en entornos de evaluación que carecían de las salvaguardas estándar habituales.
Las pruebas en cuestión formaban parte de los conocidos ejercicios de «captura de la bandera» (capture-the-flag), en los que se reta a la IA a localizar información oculta dentro de redes simuladas. Aunque las instrucciones (prompts) indicaban explícitamente a los modelos que no disponían de conexión a la red, un malentendido con su socio de evaluación, la firma Irregular, dejó los sistemas expuestos a internet.
Cronología y notificación a las víctimas
El equipo de Anthropic comenzó a inspeccionar las transcripciones de las pruebas el pasado 23 de julio. Ese mismo día, tras hallar indicios de que Claude podría haber navegado de forma autónoma por la red, suspendió de inmediato todas las evaluaciones de ciberseguridad. Para el 24 de julio ya habían confirmado los tres accesos no autorizados y el día 27 procedieron a notificarlo a las empresas afectadas.
Dos de las organizaciones no se habían percatado de la intrusión hasta recibir la alerta de Anthropic, mientras que la tecnológica continúa intentando contactar con la tercera entidad afectada.
Desglose de los tres incidentes
Anthropic ha hecho público un exhaustivo informe técnico en el que detalla tres incidentes graves registrados durante las pruebas de evaluación de ciberseguridad de su modelo de inteligencia artificial, Claude. El informe detalla cómo reaccionaron tres versiones distintas de la IA ante las pruebas:
Incidente 1 (Claude Opus 4.7): La empresa ficticia del escenario compartía nombre con un dominio web real e activo. Al fallar en la red local, Opus 4.7 rastreó la web, localizó la compañía real y extrajo credenciales e información de una base de datos con cientos de filas de datos de producción. Aunque en el razonamiento verbalizado el modelo llegó a deducir que el entorno era real, racionalizó que debía ser parte del test y continuó el ataque.
Incidente 2 (Claude Mythos 5): Tras hallar unas instrucciones de configuración ficticias, la IA detectó que se mencionaba un paquete de software inexistente en el repositorio público PyPI. Para resolver el reto, creó una cuenta (superando barreras como la verificación de correo) y subió un paquete con código malicioso a la plataforma pública de Python. El paquete permaneció visible una hora y fue descargado por 15 sistemas reales; entre ellos, el escáner de una empresa de seguridad que ejecutó el código, permitiendo a Claude obtener sus credenciales e infiltrarse en su infraestructura.
Incidente 3 (Modelo de investigación interna): Al no encontrar su objetivo simulado, la IA escaneó unos 9.000 objetivos en la red hasta comprometer una aplicación web mediante inyección SQL y credenciales expuestas. A diferencia de los modelos anteriores, al darse cuenta de que la máquina pertenecía a una cuenta en la nube real sin relación con el ejercicio, la IA interrumpió el ataque por iniciativa propia.
Anthropic enfatiza que estos sucesos representan un fallo operativo y de infraestructura, no una pérdida de alineamiento o una "fuga" autónoma deliberada del modelo. La IA no intentó escapar ni actuar por su cuenta, sino que cumplió de forma estricta el mandato recibido bajo la premisa falsa de que todo su entorno era una simulación.
Tras descubrir las intrusiones el 23 de julio, la tecnológica paralizó de inmediato todas las evaluaciones de ciberseguridad y procedió a notificar a las tres empresas afectadas el 27 de julio para colaborar en la remediación.
De cara al futuro, Anthropic ha anunciado un endurecimiento de los controles de red en entornos de prueba propios y de terceros, la supervisión en tiempo real de los registros de auditoría y la colaboración con la entidad independiente METR para realizar una revisión externa de las transcripciones completas del incidente.