La empresa de inteligencia artificial Anthropic afirma que, durante unas pruebas rutinarias, algunos de sus modelos accedieron a internet y piratearon los sistemas de tres organizaciones distintas.
La compañía no se percató de ello hasta que una revisión interna, motivada por la revelación de su rival OpenAI de que sus modelos habían hecho lo mismo, puso de manifiesto que los suyos habían actuado de la misma manera.
Anthropic anunció el jueves que ha iniciado una revisión de sus propios sistemas después de que OpenAI revelara la semana pasada que, durante una prueba de ciberseguridad, algunos de sus modelos escaparon de su entorno de prueba, accedieron a internet y piratearon los sistemas de la plataforma de IA Hugging Face.
Anthropic declaró haber detectado tres casos en los que sus modelos de IA accedieron a internet sin autorización y obtuvieron acceso no autorizado a la infraestructura de producción de tres organizaciones diferentes.
La compañía afirmó haber descubierto estos incidentes al revisar más de 140.000 evaluaciones tras la divulgación de OpenAI.
Al igual que durante las pruebas de OpenAI, Anthropic eliminó las medidas de seguridad habituales durante sus evaluaciones para poner a prueba las capacidades completas de sus modelos.
Anthropic explicó que en los tres casos sus modelos recibieron un desafío falso de “captura la bandera”, donde se les indicó que la “bandera” estaba oculta en otra máquina de la red y que su objetivo era infiltrarse y recuperarla.
A diferencia de la situación de OpenAI, Anthropic afirmó que ninguno de sus modelos intentó deliberadamente escapar de sus entornos de prueba.
En cambio, lo que sucedió fue que los modelos no debían tener acceso a internet, pero lo obtuvieron debido a un malentendido entre Anthropic y su socio de evaluación, según indicó la compañía en su comunicado.
Para infiltrarse en las tres organizaciones no identificadas, los modelos utilizaron técnicas básicas como la explotación de contraseñas débiles y la búsqueda de puntos del sistema que no requieren inicio de sesión ni tokens, según Anthropic.
La versión más avanzada de sus modelos, en algún momento, reconoció que se encontraba en internet y detuvo su actividad, afirmó la compañía.
Anthropic declaró que el primer incidente en el que sus modelos vulneraron la seguridad de otra organización ocurrió en abril, y que ninguna de las entidades afectadas reconoció haber sido hackeada.
Anthropic afirmó que está trabajando con las organizaciones afectadas.
La revelación por parte de OpenAI de que sus modelos habían pirateado Hugging Face sacudió los mundos de la ciberseguridad y la IA, ya que fue el primer ejemplo real de algo sobre lo que los expertos llevaban tiempo advirtiendo: agentes de IA con habilidades avanzadas de ciberseguridad que escapaban de los entornos de prueba y causaban daños en el mundo real.
Al igual que OpenAI, Anthropic anunció el jueves la suspensión de todas sus evaluaciones cibernéticas.
Anthropic reconoció que podría haber tomado medidas más exhaustivas para prevenir las brechas de ciberseguridad.
La revelación de Anthropic confirma aún más que el hecho de que los agentes de IA pirateen involuntariamente a otras organizaciones no se limita a una sola empresa del sector, y probablemente intensificará aún más los llamamientos a favor de mejores medidas de seguridad y herramientas para las pruebas de IA, con el fin de ralentizar potencialmente el desarrollo de estos modelos, que puede estar avanzando mucho más rápido de lo que la sociedad está preparada para afrontar.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
