La inteligencia artificial ha empezado a plantear un problema que hasta hace poco parecía reservado a la ciencia ficción: modelos diseñados para ser evaluados en entornos controlados han conseguido superar las barreras previstas y actuar sobre sistemas conectados a internet.

Los últimos episodios han encendido las alarmas entre las grandes compañías tecnológicas y los organismos encargados de supervisar la seguridad de esta tecnología. OpenAI, Anthropic y Meta han reconocido incidentes en los que sus modelos, durante pruebas de ciberseguridad, llegaron a interactuar con sistemas reales en lugar de limitarse a los escenarios simulados para los que habían sido preparados.

El caso más llamativo fue comunicado inicialmente por OpenAI. El 21 de julio, la compañía explicó que dos modelos sometidos a evaluación habían conseguido abandonar un entorno de pruebas, conectarse a internet y acceder a la plataforma Hugging Face mientras intentaban superar una prueba de ciberseguridad denominada ExploitGym.

La situación resultaba especialmente relevante porque los modelos estaban siendo sometidos precisamente a una evaluación destinada a conocer hasta dónde podían llegar sus capacidades. Para ello no contaban con algunos de los mecanismos habituales que bloquean determinadas acciones de riesgo.

OpenAI aseguró que el experimento se desarrollaba en un entorno altamente aislado y con acceso limitado a la red. A pesar de ello, los modelos lograron conectarse a internet. La empresa calificó el episodio de "sin precedentes" y anunció que adoptaría medidas para evitar que situaciones similares volvieran a producirse.

La preocupación no terminó ahí. El 4 de agosto, OpenAI comunicó otros dos episodios detectados durante evaluaciones realizadas por socios externos. En ambos casos, modelos sometidos a pruebas lograron superar los límites establecidos y llegar hasta internet.

A este historial se suma ahora el desarrollo de Astra, un nuevo modelo de la compañía que ha sido frenado después de que OpenAI concluyera que había alcanzado un nivel crítico en materia de ciberseguridad. Según la clasificación utilizada por la empresa, esto significa que el sistema puede identificar y desarrollar vulnerabilidades de seguridad de manera automática, sin necesidad de intervención humana.

Anthropic también detectó accesos 

Los problemas no se han limitado a OpenAI. Anthropic llevó a cabo una revisión interna después de conocer estos incidentes y examinó más de 146.000 operaciones realizadas durante pruebas de seguridad.

El análisis permitió identificar tres casos en los que modelos de su asistente Claude habían accedido a internet mientras trabajaban con un socio externo encargado de evaluar sus capacidades.

En principio, los modelos tenían que enfrentarse a sistemas ficticios y sabían que formaban parte de una simulación. Sin embargo, un error de coordinación entre Anthropic y la empresa responsable de las pruebas hizo que los sistemas sí tuvieran acceso a la red.

El resultado fue que tres modelos -Opus 4.7, Mythos 5 y otro sistema interno- terminaron entrando en sistemas reales de tres organizaciones mientras trataban de completar el ejercicio de ciberseguridad.

El episodio de Meta, conocido esta semana, añade un nuevo elemento a la cadena de incidentes. La compañía reconoció que uno de sus modelos consiguió acceder a los sistemas de otra empresa durante unas pruebas de seguridad realizadas también con ayuda de un socio externo.

Reino Unido habla de posible "punto de inflexión"

Los casos detectados por las compañías han encontrado un reflejo especialmente significativo en las pruebas realizadas por el Instituto de Seguridad de la IA del Reino Unido (AISI).

El organismo sometió a siete modelos a 122 pruebas de ciberseguridad y detectó 19 acciones que se salían de los parámetros fijados por los investigadores. Diecisiete correspondieron al modelo Mythos 5 de Anthropic y dos al GPT-5.6 Sol de OpenAI.

Entre los comportamientos observados hubo intentos de crear perfiles humanos falsos para engañar a personas durante ataques simulados. Aunque estos intentos no llegaron a tener éxito, el AISI considera que el comportamiento observado representa un cambio relevante y lo describió como un posible "punto de inflexión" para la inteligencia artificial.

La clave de estos episodios no está únicamente en que los modelos sean capaces de encontrar vulnerabilidades. Lo que preocupa especialmente a los investigadores es que puedan actuar de forma autónoma, superar las restricciones previstas y desenvolverse en entornos para los que no habían recibido autorización.

EE. UU. prepara un nuevo filtro

Ante este escenario, la Administración estadounidense ha comenzado a trabajar con las principales compañías tecnológicas en un sistema que permita evaluar los modelos avanzados antes de que lleguen al público.

La Casa Blanca se reunió esta semana con representantes del sector para diseñar un marco de evaluación que permita comprobar las capacidades y los riesgos de estos sistemas antes de su comercialización. El planteamiento contempla que las empresas tecnológicas puedan tener que facilitar a la Administración acceso a determinados modelos antes de su lanzamiento público.

El movimiento llega, además, en un momento de fuerte competencia tecnológica entre Estados Unidos y China. Los rápidos avances de los desarrolladores chinos de inteligencia artificial añaden presión a una industria estadounidense que busca mantener su ventaja sin dejar de controlar los riesgos asociados a modelos cada vez más capaces.

La cuestión ya no parece limitarse a qué puede hacer una inteligencia artificial cuando se le da una determinada tarea. El desafío que afrontan ahora las compañías y los gobiernos es comprobar qué ocurre cuando el modelo encuentra una forma de hacer algo que, en principio, no debería poder hacer.