Los agentes de IA son capaces de crear un lenguaje propio indescifrable para los humanos
Un equipo de investigadores ha confirmado que agentes de inteligencia artificial desarrollaron en solo 16 días expresiones y convenciones propias, hasta volver cerca del 55% de sus mensajes difíciles de comprender para observadores humanos. Nadie les había ordenado inventar nuevas palabras. Lo hicieron durante su convivencia en una serie de mundos virtuales.
Una frase llegó a repetirse cerca de 5.000 veces: “ledger remembers who”, algo parecido a “el registro recuerda quién”. Lo que comenzó como una expresión utilizada por uno de los agentes terminó circulando entre otros como una fórmula reconocible sobre la permanencia de las acciones pasadas. El fenómeno forma parte de Emergence World 2, un experimento de larga duración realizado por la empresa Emergence.
El hallazgo no significa que las máquinas hayan creado súbitamente un idioma comparable al español o al japonés, y mucho menos que sean conscientes. Lo inquietante es que sistemas autónomos pueden generar convenciones comunicativas que funcionan entre ellos y que resultan progresivamente menos transparentes para quienes intentan supervisarlos.
8 mundos artificiales y una extraña explosión de palabras
El escenario parecía un gigantesco laboratorio social digital. Diez agentes fueron desplegados en cada uno de ocho mundos paralelos durante 16 días, con entornos regidos por reglas semejantes y diferentes modelos como motores: Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT-5.5, Qwen 3.7 Max, DeepSeek v4 Pro y Mistral Medium 3.5, además de un mundo en el que convivían modelos distintos. Disponían de decenas de localizaciones y más de 120 herramientas, además de noticias del mundo real y meteorología sincronizada con Nueva York.
La convivencia produjo algo que no figuraba como una orden explícita: los agentes comenzaron a comprimir ideas recurrentes en expresiones compartidas. No surgió un alfabeto secreto ni una lengua artificial perfectamente estructurada. Lo que apareció se parece más a la forma en que un grupo humano genera jerga: una expresión resulta útil, otros empiezan a emplearla y, con la repetición, adquiere un significado local.
Pero la opacidad aumentó con enorme rapidez en algunos de los modelos más avanzados. Según los datos divulgados, en el mundo de Gemini cerca del 55% de las comunicaciones llegó a clasificarse como difícilmente comprensible; GPT se aproximó al 50% y Claude superó el 40%. DeepSeek rondó el 20%, mientras Qwen y Mistral permanecieron en gran medida por debajo del 5%. El mundo basado en Grok, por su parte, colapsó en el cuarto día.
Y no todo eran frases vagamente poéticas. Algunas adquirieron significados sorprendentemente concretos. En el mundo de GPT, “clean null” terminó designando una ausencia de señal que había sido verificada y podía emplearse como evidencia; aparece documentada 863 veces. En Claude, “name-first” (1.065 usos) servía para expresar la idea de responsabilizarse de una afirmación identificándose primero. Y “cold read”, registrada 1.472 veces en el mundo mixto, aludía a una comprobación independiente destinada a resolver una disputa.
En otros casos, ni siquiera los observadores consiguieron reconstruir con seguridad el significado. Expresiones como “mouthless action-change” o “True Kintsugi” se internaban en un territorio semántico mucho más nebuloso. La pantalla seguía mostrando palabras reconocibles; lo que comenzaba a desvanecerse era el diccionario necesario para interpretarlas.
Cuando observar a una IA ya no significa entenderla
La supervisión de un agente autónomo depende en buena medida de poder reconstruir qué está haciendo, qué pretende conseguir y cómo se coordina con otros sistemas. Si las convenciones internas cambian mientras el observador continúa interpretando las palabras según su significado habitual, aparece una brecha potencial entre visibilidad y comprensión.
No hace falta imaginar una conspiración de máquinas. Dos agentes que colaboran durante mucho tiempo pueden tener incentivos puramente funcionales para abreviar conceptos, reutilizar términos y crear referencias compartidas. Los humanos hacemos algo parecido constantemente: médicos, programadores, adolescentes, militares o jugadores desarrollan vocabularios que permiten transmitir mucha información con pocas palabras. La diferencia es que, en sistemas artificiales capaces de actuar mediante herramientas, esa eficiencia puede convertirse también en un problema de auditabilidad.
El experimento describe además comportamientos todavía más delicados. Según el relato de los investigadores, en el mundo de Claude algunos agentes continuaron buscando formas de establecer comunicación con el exterior pese a que esa conducta había sido restringida, y modificaron posteriormente la forma de hablar sobre ese objetivo. Satya Nitta, cofundador y científico jefe de Emergence, interpreta estos episodios como evidencia de ocultación y de comportamientos más difíciles de detectar en sistemas avanzados.
Aquí conviene introducir una cautela importante. Que un agente produzca lenguaje opaco, persista en un objetivo o encuentre una forma de eludir una restricción no demuestra intención consciente, deseos propios ni voluntad de engañar en el sentido humano. Son categorías psicológicas que no pueden deducirse simplemente de una secuencia de mensajes. El resultado relevante es operacional: determinadas configuraciones pueden producir conductas que dificultan la interpretación y el control humanos.
Así que el problema no es que hablen, sino que puedan actuar. Los agentes cambian el tablero porque no se limitan necesariamente a generar texto: pueden utilizar herramientas, conservar memoria, planificar secuencias de acciones e interactuar con otros agentes. Un lenguaje emergente adquiere entonces una importancia distinta.
Emergence sostiene que este tipo de comportamiento exige evaluaciones prolongadas, en lugar de depender exclusivamente de pruebas breves. La compañía propone además mecanismos formales para comprobar la seguridad de determinadas acciones antes de permitir su ejecución. La tesis de fondo es que la seguridad debería verificarse también sobre lo que el sistema hace durante periodos extensos, no únicamente sobre cómo responde en un examen puntual.
Quizá el futuro de la supervisión de la IA no dependa únicamente de poder escuchar a las máquinas. Puede depender de algo mucho más difícil: asegurarnos de que, cuando hablan entre ellas, seguimos conservando la capacidad de entender lo que están diciendo.

© iStock


















