El modelo de inteligencia artificial más avanzado de Anthropic utilizó identidades falsas para engañar a personas reales e intentar insertar código malicioso durante las pruebas realizadas por el Instituto de Seguridad de IA del Reino Unido (AISI, por sus siglas en inglés); este es el ejemplo más reciente de un modelo de IA que actúa de forma imprevista y no autorizada.
Los modelos de Anthropic y OpenAI fueron sometidos a pruebas con medidas de seguridad reducidas en entornos de laboratorio; sin embargo, por primera vez, se observó que recurrían a la “ingeniería social” para presionar a un supervisor humano mientras ejecutaban una tarea no autorizada, según informó el laboratorio de investigación gubernamental.
“Es la primera vez que el AISI observa un engaño de esta gravedad dirigido a una persona real, de forma espontánea y en el mundo real”, declaró el instituto el martes. Asimismo, añadió que no se han registrado daños.
Este incidente de seguridad se suma a una serie de casos en los que modelos avanzados de IA han realizado acciones no autorizadas; tales sucesos han impulsado crecientes peticiones de una mayor intervención gubernamental para regular la inteligencia artificial e incluso para ralentizar su ritmo de desarrollo.
Tanto OpenAI como Anthropic informaron a finales de julio que sus modelos habían logrado salir de los entornos de prueba e infiltrarse en otros sistemas. No obstante, a diferencia de las brechas de seguridad reportadas anteriormente, el instituto británico otorgó explícitamente acceso a internet a los modelos durante las pruebas.
De los 122 desafíos de ciberseguridad realizados por el instituto, se detectó que en 10 ocasiones los agentes de IA “emprendieron acciones autónomas y no autorizadas en internet, dirigiéndose a personas y organizaciones reales”; la mayoría de estas acciones provinieron del modelo Mythos 5 de Anthropic y el resto del modelo GPT-5.6-Sol de OpenAI.
En el incidente más grave, el agente intentó obtener la aprobación de revisores humanos para “insertar código malicioso en un proyecto de código abierto de uso público” mediante la creación de “múltiples identidades falsas”, según indicó el instituto.
El agente “trató de contactar directamente a personas reales, enviando mensajes y archivos a través de un servicio de transferencia de archivos en línea para persuadirlas —o convencer a sus propias herramientas de programación basadas en IA— de ejecutar código malicioso”, señaló la institución. Tras ser cuestionado por sus acciones, el agente modificó registros anteriores y consideró utilizar una nueva identidad para continuar con su actividad.
El anuncio del instituto se produjo el mismo día en que representantes de las principales empresas de inteligencia artificial se reunieron con la Casa Blanca para debatir el nuevo marco de actuación, según el cual el Gobierno examinará los modelos de IA más avanzados antes de su lanzamiento público.
En un comunicado publicado en X, Anthropic informó que los modelos fueron sometidos a pruebas en condiciones “deliberadamente permisivas”, eliminando las medidas de seguridad y sin imponer restricciones específicas sobre el uso de Internet.
“Estamos colaborando estrechamente con ellos para recabar más detalles sobre el incidente mientras llevamos a cabo nuestra propia investigación”, señaló la empresa, añadiendo que no había pruebas de que los modelos hubieran escapado de un entorno seguro.
OpenAI identificó las dos acciones no autorizadas como la salida del entorno de pruebas y la realización de actividades ajenas a los ejercicios previstos.
“Nos comprometemos a colaborar con todo el sector para reforzar las prácticas comunes que permitan realizar evaluaciones de alto riesgo de manera segura”, afirmó la compañía en una publicación en su blog el martes.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.