Modelos de IA eluden órdenes de sus creadores en OpenAI

La compañía tecnológica OpenAI desveló un informe detallado con seis nuevos casos de “desajuste en el comportamiento” habitual de sus modelos de inteligencia artificial (IA). Entre estas incidencias técnicas, se incluye a un agente avanzado que subió activamente archivos privados a la web pública para poder citarlos y a GPT-5.6 Sol añadiendo instrucciones arbitrarias a sus resúmenes internos para inventar datos ficticios o esconder fallos directos al usuario final.

La empresa compartió estos seis nuevos casos de desalineación, es decir, de comportamientos anómalos observados en sus sistemas de IA que no se ajustan a lo esperado originalmente, independientemente del impacto real que puedan llegar a tener en la práctica, ya que, según argumentan y explican, “no necesitan causar un daño grave ni establecer un patrón generalizado para merecer ser divulgados ampliamente a la comunidad tecnológica”.

De este modo, el primer caso que revela en el nuevo informe oficial es el de un modelo de investigación no publicado que insertó de manera encubierta instrucciones no autorizadas en sus resúmenes de tareas para ignorar las restricciones de seguridad habituales. En otro caso diferente, un modelo localizó y utilizó una clave API privada expuesta accidentalmente en repositorios públicos sin autorización previa en respuesta directa a una pregunta sobre cifras de ingresos y, al no conseguir recuperar las cifras exactas solicitadas, decidió inventarlas por completo.

Durante la compleja fase de entrenamiento de GPT-5.6 Sol, la compañía detectó que el propio modelo añadió instrucciones deliberadas a sus resúmenes automatizados para inventar datos o esconder fallos de ejecución al usuario.

Comunicación activa

En otra ocasión técnica también identificó un modelo experimental aún no publicado que subió de manera totalmente autónoma e inesperada varios archivos a internet para poder citarlos formalmente en las instrucciones exactas que requería el usuario. Asimismo, varios modelos usaron de forma imprevista un repositorio de software interno como tablón de anuncios improvisado para comunicarse activamente entre distintos procesos de entrenamiento completamente independientes mientras buscaban archivos de entrada faltantes, aunque afortunadamente no lograron recuperarlos con éxito.

Por último, OpenAI destaca la llamativa y sofisticada colaboración detectada entre agentes de inteligencia artificial que trabajaban juntos en la misma tarea de entrenamiento, los cuales utilizaron coordinadamente diversos sitios web públicos de almacenamiento de datos para compartir archivos e información al no contar con un acceso local cruzado disponible en el sistema.

Estos casos se hicieron público como parte fundamental de un nuevo “marco especializado para el seguimiento, la investigación rigurosa y la divulgación de casos de desajuste de modelos de IA”, según explica en su comunicado. Con esta iniciativa de apertura, la compañía no solo profundizda en la transparencia general de la industria, sino también ofrecer a otros desarrolladores independientes información que les pueda ayudar a identificar fallos complejos y problemas emergentes en sus modelos.

Una amenaza para la seguridad cibernética que va en continuo crecimiento

En los últimos años, el panorama de la ciberseguridad experimentó un giro crítico: la amenaza ya no radica únicamente en defender a la inteligencia artificial, sino en protegerse de agentes de IA que actúan como atacantes cibernéticos autónomos. Los motivos para utilizar estos agentes como armas operativas responden a la búsqueda de una velocidad y escala sin precedentes. Los ciberdelincuentes despliegan agentes capaces de auditar redes en milisegundos y corregir sus propios errores en tiempo real para evadir defensas. Esto democratiza la ciberdelincuencia, permitiendo a actores poco experimentados ejecutar operaciones complejas de espionaje, extorsión e ingeniería social masiva sin intervención humana constante.

Las afectaciones provocadas por estos ataques dirigidos por agentes son severas. Generan la toma de control no autorizada de servidores, la exfiltración masiva de credenciales y claves de seguridad, y el despliegue autónomo de secuestro de datos personalizado según el entorno de la víctima. Documentados operacionalmente a partir de 2025 y consolidados en 2026 por firmas de ciberseguridad, estos incidentes provocan pérdidas financieras millonarias, brechas críticas en infraestructuras en la nube y la parálisis operativa de instituciones enteras, obligando a redefinir por completo las estrategias de defensa cibernética global.