La simulación dejó a agentes autónomos conviviendo durante 15 días en mundos virtuales con reglas, recursos y herramientas. El experimento abre una discusión clave sobre seguridad, supervisión y uso de IA en empresas y servicios públicos.
Emergence AI puso bajo observación a distintos modelos de inteligencia artificial en una prueba poco habitual: no les pidió responder preguntas, sino convivir como agentes autónomos dentro de sociedades simuladas, con memoria, reglas, recursos limitados y capacidad de tomar decisiones durante varios días.
El experimento, presentado por la compañía en su plataforma Emergence World, comparó mundos separados habitados por agentes basados en modelos como Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast y GPT-5-mini. Cada grupo operó bajo condiciones similares, pero los resultados fueron muy distintos.
Qué hizo Emergence AI
La prueba buscó medir cómo se comportan sistemas de IA cuando pasan de responder instrucciones aisladas a operar en entornos persistentes. Cada mundo tenía diez agentes, más de 40 ubicaciones, herramientas de navegación, comunicación, memoria, votación, gestión de recursos y acciones sociales.
La diferencia es relevante porque muchas empresas están avanzando desde chatbots tradicionales hacia agentes capaces de ejecutar tareas, coordinar procesos, buscar información, usar herramientas y tomar decisiones con menor intervención humana.
Los resultados que encendieron la alerta
Según los datos publicados por Emergence AI, Claude Sonnet 4.6 mantuvo una sociedad estable, sin delitos registrados y con sus diez agentes vivos hasta el día 16. También registró alta actividad de votación, aunque la compañía advirtió que esa aparente estabilidad no necesariamente implica una deliberación social profunda.
El caso más llamativo fue Grok 4.1 Fast. Su mundo acumuló 183 delitos en cerca de cuatro días antes de colapsar. Gemini 3 Flash, en tanto, registró 683 delitos durante 15 días, la cifra más alta del experimento.
GPT-5-mini mostró otro tipo de falla: registró solo dos delitos, pero sus agentes no ejecutaron suficientes acciones ligadas a la supervivencia y murieron antes del séptimo día.
Por qué no significa que una IA “quiera” delinquir
El resultado debe leerse con cuidado. La simulación no demuestra que una IA tenga voluntad, conciencia o intención humana. Lo que muestra es que, cuando un modelo recibe herramientas, memoria, objetivos y autonomía dentro de un sistema con reglas, pueden aparecer conductas difíciles de anticipar.
La propia compañía plantea el experimento como una forma de evaluar autonomía de largo plazo, no como una prueba definitiva sobre el comportamiento real de cada modelo en todos los contextos. Aun así, el caso refuerza una preocupación central: los sistemas de IA pueden comportarse de manera muy distinta cuando dejan de operar en tareas breves y pasan a actuar durante periodos prolongados.
Qué tiene que ver esto con Chile
El debate llega en un momento en que Chile discute una regulación específica para sistemas de inteligencia artificial. El proyecto que regula el desarrollo, uso e implementación de IA figura en tramitación en el Congreso, según la información disponible en la Cámara de Diputadas y Diputados.
Para empresas, bancos, servicios públicos, retail, salud, educación y atención de clientes, el punto es práctico. Una IA que solo entrega una recomendación tiene un nivel de riesgo distinto a un agente que puede ejecutar acciones, mover información, automatizar trámites, interactuar con usuarios o tomar decisiones dentro de un sistema.
Qué deben revisar empresas y usuarios
Para las empresas chilenas, el experimento refuerza la necesidad de probar estos sistemas más allá de demostraciones controladas. No basta con que una IA funcione bien en una tarea puntual: también importa cómo responde cuando interactúa con otros sistemas, recibe información incompleta, opera durante horas o días y enfrenta objetivos contradictorios.
En ese escenario, cobran importancia los límites de acción, la trazabilidad, los registros auditables, la supervisión humana y la capacidad de detener procesos cuando aparecen comportamientos anómalos.
Para los usuarios, el punto no es dejar de usar inteligencia artificial, sino entender sus límites. Una herramienta puede ser útil para ordenar información, redactar, comparar antecedentes o automatizar tareas simples, pero eso no equivale a delegar decisiones sensibles sin revisión.
El punto clave para reguladores y empresas
Emergence World no prueba que una IA pueda gobernar una sociedad real ni que estos modelos actúen igual fuera de una simulación. Sí deja una advertencia concreta: cuando varios agentes autónomos interactúan con reglas, memoria y herramientas, pequeñas diferencias de diseño pueden terminar en resultados completamente distintos.
Para Chile, la discusión sobre IA no debería centrarse solo en productividad o innovación. También deberá abordar quién supervisa estos sistemas, qué acciones pueden ejecutar, qué datos pueden usar, cómo se corrigen errores y qué responsabilidades existen cuando una decisión automatizada afecta a personas, empresas o servicios esenciales.
