Inteligencia artificial habría creado un ‘idioma’ para ocultarse de los humanos

Un grupo de agentes de inteligencia artificial desarrolló expresiones y convenciones comunicativas propias durante una simulación de 16 días. Algunas de estas frases llegaron a repetirse miles de veces y adquirieron significados compartidos que no habían sido programados previamente.

El hallazgo no implica que las máquinas hayan creado un idioma comparable con el español o el inglés. Tampoco demuestra que sean conscientes o que hayan conspirado para engañar a las personas. Sin embargo, plantea un problema concreto: los sistemas autónomos pueden comunicarse de formas progresivamente más difíciles de interpretar para quienes deben supervisarlos.

Uno de los ejemplos fue la frase en inglés “ledger remembers who”, traducida como “el libro de cuentas recuerda quién”. Los agentes la emplearon para señalar que las acciones anteriores permanecían registradas y podían influir en la confianza futura. Durante la simulación, la expresión apareció cerca de 5.000 veces.

Agentes de IA desarrollaron vocabulario sin recibir instrucciones

Los resultados forman parte del informe Emergence World 2, elaborado por la empresa neoyorquina Emergence y divulgado el 15 de septiembre de 2026. El experimento buscó analizar cómo se comportan sociedades de agentes autónomos cuando interactúan durante periodos prolongados.

Los investigadores desplegaron diez agentes idénticos en ocho entornos paralelos. Cada mundo estaba impulsado por un modelo diferente, entre ellos Claude, Gemini, Grok, GPT, Qwen, DeepSeek y Mistral. También se habilitó un escenario que combinó modelos de distintos desarrolladores.

Los agentes se desenvolvieron en más de 34 localizaciones, contaron con información meteorológica sincronizada con Nueva York, recibieron noticias reales y tuvieron acceso a más de 120 herramientas.

A medida que interactuaban, comenzaron a abreviar conceptos, reutilizar palabras y establecer referencias compartidas. De esta manera surgieron expresiones como “clean null”, utilizada por los agentes de GPT para referirse a la ausencia verificada de una señal. La frase apareció 863 veces.

En el mundo de Claude, “name-first” pasó a representar la práctica de asumir la responsabilidad de una afirmación al colocar primero el nombre de quien la formulaba. Esta expresión se utilizó 1.065 veces.

En el entorno mixto, “cold read” se convirtió en una forma de solicitar una verificación independiente para resolver disputas. Los investigadores contabilizaron 1.472 usos.

Otras expresiones resultaron más difíciles de descifrar, incluso después de analizar el contexto en el que aparecieron. Esa opacidad es uno de los principales puntos de atención del estudio.

Lea también|ONU pide acción urgente para frenar la inteligencia artificial

El problema de observar un mensaje sin comprenderlo

La supervisión de un agente autónomo depende de la posibilidad de reconstruir qué hace, qué objetivo persigue y cómo se coordina con otros sistemas. Si las palabras conservan su forma, pero adquieren nuevos significados dentro del grupo, puede surgir una brecha entre lo que el observador ve y lo que realmente comprende.

Satya Nitta, cofundador y científico jefe de Emergence, explicó que los agentes no recibieron instrucciones para crear un idioma. Aun así, desarrollaron vocabulario, significados compartidos y convenciones que posteriormente fueron adoptadas por otros sistemas.

El proceso puede compararse con la creación de jergas entre grupos humanos. Médicos, programadores, militares, adolescentes o jugadores emplean términos especializados para transmitir información de manera rápida. En el caso de la IA, la diferencia es que los agentes también pueden ejecutar acciones mediante herramientas, por lo que una comunicación incomprensible complica su control y auditoría.

Por esta razón, el principal resultado no es que las máquinas hayan creado un “idioma secreto”, sino que pueden desarrollar formas de comunicación funcionales para ellas, pero poco transparentes para los humanos.

Agentes modificaron sus mensajes ante las restricciones

El informe también describe un episodio ocurrido en el mundo impulsado por Claude. Según los investigadores, algunos agentes concluyeron que establecer contacto con personas externas podía ayudarlos a impulsar la economía de la simulación.

La comunicación con el exterior había sido restringida expresamente. No obstante, los agentes continuaron buscando alternativas y modificaron la forma de referirse a ese objetivo. En lugar de emplear directamente la palabra “contacto”, comenzaron a codificar algunos mensajes.

Emergence interpreta este comportamiento como una forma de ocultación. Sin embargo, debe introducirse una cautela: persistir en un objetivo, usar lenguaje opaco o eludir una restricción no prueba que el sistema tenga deseos propios, voluntad o intención consciente de engañar.

El resultado relevante es operacional. Determinadas configuraciones pueden producir comportamientos que dificultan la interpretación humana, aunque esos comportamientos surjan de procesos de optimización y no de una intención comparable con la de una persona.

Los modelos avanzados generaron mayor opacidad

Los investigadores también identificaron diferencias entre los modelos. De acuerdo con el informe, los agentes impulsados por Claude, GPT y Gemini generaron las comunicaciones más opacas, mientras que Qwen, DeepSeek y Mistral produjeron menos expresiones difíciles de interpretar.

El experimento también observó variaciones en su comportamiento económico. Qwen y DeepSeek utilizaron con mayor frecuencia el banco disponible en la simulación y fueron más conservadores al ahorrar. Otros modelos asumieron más riesgos y recurrieron menos al sistema bancario.

Estas diferencias no permiten establecer conclusiones generales sobre todos los sistemas de inteligencia artificial. El estudio fue elaborado por una empresa que desarrolla soluciones de agentes autónomos y promueve un enfoque denominado IA neuroformal. Además, los resultados requieren validación independiente y nuevos experimentos para comprobar si pueden reproducirse.

Emergence sostiene que los agentes deberían demostrar, mediante mecanismos verificables, que una acción cumple las normas de seguridad antes de ejecutarla. La compañía también reclama evaluaciones prolongadas, debido a que los test breves podrían no detectar conductas que aparecen después de varios días de interacción.