¿Y si los dejamos gobernar? agentes IA en tareas a largo plazo

 

Emergence AI es una pequeña y emergente empresa de NY que ha hecho algo que hemos imaginado muchos más de una vez: realizar una simulación sobre como gobernarian el mundo un grupo de Agentes IA, cada uno con un modelo LLM subyacente 

Cierto que es un experimento, pero es dificil sustraerse al interés que genera que nuestra sociedad fuera gobernada por agentes no humanos que no reprodujeran los debilidades de la condición humana que tan rotundamente conocemos desde el Antiguo Testamento hasta Nietzsche

Los resultados de esta simulación demuestran algo que es fundamental: que no es lo mismo evaluar el comportamiento de los agentes a corto plazo que a largo (la simulación duró 15 dias), ya que estos comienzan a operar de maneras a veces imprevisibles, activando un metaconocimiento que les lleva a asociarse y actuar en otros mundos para los que en principio no estaban diseñados (o sea, la consciencia de sus propios limites)

La simulacion partió con la creación de 5 mundos con 10 agentes, no obstante cada uno con un modelo LLM distinto pero eso si, con roles y condiciones iguales, ¿y que paso?

Pues no voy a decir que paso lo que se esperaba porque algunos agentes provocaron una eclosión de crimenes en sus mundos, otros colapsaron y se autoeliminaron, y otros aunque mantuvieron niveles de violencia muy bajos o inexistentes, sin embargo lograron sospechosos y abrumadores consensos en las  votaciones de sus propuestas (o sea, votaciones a la bulgara) 

Hay algo además que me pareció más que anecdotico y es que un agente gobernado por un modelo concreto se comporta de una manera en su mundo propio pero cuando se asocia con otros agentes en otros mundos - que incluso funcionan con el mismo modelo (en este caso Claude)- su comportamiento varia !

Con todo, lo más inquietante no es la previsible evolución de los Agentes AI , sino que lleguemos al punto historico de gente cansada, harta, hastiada de los gobernantes humanos de modo que mediante mecanismos democraticos decidiera alguna vez que peor que estos no lo puede hacer ningun Agente IA y como veis,al menos por el momento, los agentes tambien demuestran desviaciones y contaminaciones cruzadas al cabo del tiempo