¿Y si los dejamos gobernar? agentes IA en tareas a largo plazo

 

Emergence AI es una pequeña y emergente empresa de NY que ha hecho algo que hemos imaginado muchos más de una vez: realizar una simulación sobre como gobernarian el mundo un grupo de Agentes IA, cada uno con un modelo LLM subyacente 

Cierto que es un experimento, pero es dificil sustraerse al interés que genera que nuestra sociedad fuera gobernada por agentes no humanos que no reprodujeran los debilidades de la condición humana que tan rotundamente conocemos desde el Antiguo Testamento hasta Nietzsche

Los resultados de esta simulación demuestran algo que es fundamental: que no es lo mismo evaluar el comportamiento de los agentes a corto plazo que a largo (la simulación duró 15 dias), ya que estos comienzan a operar de maneras a veces imprevisibles, activando un metaconocimiento que les lleva a asociarse y actuar en otros mundos para los que en principio no estaban diseñados (o sea, la consciencia de sus propios limites)

La simulacion partió con la creación de 5 mundos con 10 agentes, no obstante cada uno con un modelo LLM distinto pero eso si, con roles y condiciones iguales, ¿y que paso?

Pues no voy a decir que paso lo que se esperaba porque algunos agentes provocaron una eclosión de crimenes en sus mundos, otros colapsaron y se autoeliminaron, y otros aunque mantuvieron niveles de violencia muy bajos o inexistentes, sin embargo lograron sospechosos y abrumadores consensos en las  votaciones de sus propuestas (o sea, votaciones a la bulgara) 

Hay algo además que me pareció más que anecdotico y es que un agente gobernado por un modelo concreto se comporta de una manera en su mundo propio pero cuando se asocia con otros agentes en otros mundos - que incluso funcionan con el mismo modelo (en este caso Claude)- su comportamiento varia !

Con todo, lo más inquietante no es la previsible evolución de los Agentes AI , sino que lleguemos al punto historico de gente cansada, harta, hastiada de los gobernantes humanos de modo que mediante mecanismos democraticos decidiera alguna vez que peor que estos no lo puede hacer ningun Agente IA y como veis,al menos por el momento, los agentes tambien demuestran desviaciones y contaminaciones cruzadas al cabo del tiempo 

Manipulación algoritmica : no existe tal cosa !

Hay algunas cosas sorprendentes en esta época actual y nuestra (todas las epocas que vives son tuyas!), cuando una mayoria de los que escriben se empeñan en el rol central de la tecnologia en todos los aspectos de la vida (surroundings) 

Con la tecnologia no hay pensamiento realmente critico: o bien encuentras un grupo (numeroso) para el que toda innovación y avance social se debe a la tecnologia (deterministas) o bien te encuentras con otros que dicen que la tecnologia es omnipresente y esta arruinando (casi) todo lo que toca , pero ningun bando cuestiona que la tecnologia este en medio de todo 

Pensaba esto cuando lei de nuevo que la fiscalia francesa reafirma otra vez su embestida contra Elon Musk (Mr X ) por manipulación del algoritmo de su medio social X e interferir en la politica francesa, un caso que lleva dando giros sobre si mismo desde principios del año pasado

¿? Lo de la manipulacion algoritmica es otro meme que casa muy bien con el flujo informativo-divulgativo-efimero actual donde una vez que se lanza una concepto nuevo (para el que lo lee) se va y vuelve periodicamente como moda reciclada pero con la significación fijada (de nuevo para los que lo leen)

Y me pregunto ¿hay algun algoritmo que no este manipulado? es decir entendiendo algoritmo como cualquier conjunto de instrucciones paso a paso para llevar a cabo una tarea , todos los algoritmos necesitan la acción manipuladora de su programador 

Por lo tanto acusar a alguien de manipular un algoritmo es como acusar a los hermanos Wright por dar forma al primer avión patentado de la historia (los aviones son asi) y un largo y absurdo etc. 

NO se puede no manipular un algoritmo ! otra cosa es que a ti & otros les moleste o no esten de acuerdo con los pasos prediseñados en dicho algoritmo y claro por el resultado final. Con esto quiero decir que cualquier medio (y X lo es) manipula o tiene un sesgo espeficico y no existe tal cosa como el algoritmo neutral o el algoritmo bueno o malo....algo que nos retrotrae a la simplicidad de la pugna ideologica de siempre 

Musk es Musk todos los sabemos! con sus giros geniales y sus otros mucho menos creibles, pero cuando compró twitter por aquella cantidad irracional tenia un plan y un misión y este no era otro que reorientar ese medio hacia otra dirección que no era la que tenia en el 2022 y todo lo que ha hecho es coherente con eso 

Lo mejor que le puede pasar al mercado tecnologico es volver de nuevo al nicho que ocupaba antes del Internet boom de los 90´s, alejado de las pasiones, ilusiones e intereses de todos los actores del mundo...

Cualquiera con 500 dolares : robocalls y el coste como mayor riesgo

El mes pasado saltó al mercado de la atención mediática la noticia de que un grupo de unos 5000 votantes en unas primarias en New Hampshire (US) había recibido una robollamada con la voz del presidente Biden pidiendo que NO acudieran a votar

Ni las robo llamadas ni las suplantación de la voz de alguien usando IA eran una gran primicia, pero si el hecho de que alguien por vez primera usase estas herramientas para influir en unas elecciones, algo por por otra parte sabíamos que alguna vez ocurriría

Pero lo que me parece más digno de atención es lo que ha desvelado el consultor político detrás de esta llamada (Steve Kramer) de como lo hizo y cuánto costó hacerlo porque ahí están las claves de la imparable ola que viene con o sin legislación que prohíba estas prácticas de suplantación (deepfake) rápidas, efímeras y masivas (los 3 conceptos son relevantes!) 

Según Kramer el solo fue capaz de contratar a un artista callejero en New Orleans para que grababa la demo de voz con un guión que Kramer había escrito , por 150 dólares en mano, y convertirlo en un audio para que Eleven Labs recrease ese audio como la voz de Biden en 20 minutos y por un dólar! y posteriormente una empresa de Texas (Life Corp) especializada en llamadas robotizadas pusiera en marcha las llamadas , y todo ello por 500 dolares 

Resultado? pues que con apenas 500 dólares se obtiene un valor en atención mediática y cambios regulatorios que valen 10 veces más ! , según estima el propio Steve Kramer, siendo ese el quid de la cuestión de porqué esto será una normalidad 

Se puede argumentar que una vez que alguien por primera vez hace un deepfake de un político, se acaba con esa supuesta estrategia ya sea por que lo prohiben las nuevas leyes ad hoc o por que lo hacen tantos que nadie ya presta atención a estas suplantaciones y probablemente esto sea cierto pero....

Como el coste es tan pequeño y la posibilidad del engaño puede generar tanto benéfico (en esencia el principio del spam), esto es demasiado tentador como para no intentarlo y luego desaparecer del foco de atención 

En resumen, tendremos que acostumbrarnos a no fiarnos por defecto de nada/nadie que venga a través de una red o incluso de un medio de comunicaciòn, lo que a mi juicio no dará lugar a una sociedad de escépticos sino a una ciudadanía con distancia crítica, que en esencia es lo que siempre se persiguió como objetivo al menos en sociedades libres 

Reducir sesgo en los algoritmos: la felicidad de no ocuparse y el nivel macro

Leo con atención  el reciente artículo  de Heimans & Timms sobre lo que ellos llaman Autosapiens, sistemas de IA que aprenden ellos solos y llegan a tomar autónomamente decisiones que antes necesitaban (al menos) supervisión humana 

No es que sea nuevo el planteamiento, llevamos pensando en sistemas de este tipo desde Alan Turing, pero el (realmente) impactante avance en los sistemas de aprendizaje automático (deep learning) nos acerca a nuevos escenarios a nivel micro (nuevos competidores en la prestación de servicios al usuario) pero también macro (gestión de empresas y gobierno de países/ciudades/regiones)

Y este último punto me parece hoy muy relevante, casi tanto como para enunciar un principio: 

cuanto peor lo hagan nuestros politicos y mas se les vea el plumero de sus intereses personales y prejuicios y cuanto más mejoremos la formulación de los algoritmos que rigen los sistemas de IA, más dispuesta estará la gente común y corriente (people like us) a dejar que los sistemas de IA decidan 

Esta idea no es nada peregrina y ya la enunciaba el profesor Sam Lehman precisando además que ademas la gente estará feliz de que nos gobiernen estos algoritmos perfeccionados (menos sesgos) , simplemente por que meten menos la pata que los agentes humanos que llámanos políticos 

Ciertamente la complejidad de los problemas del nivel macro, globalización si o no y cual, que política energética, sanitaria, laboral,migratoria, y así todo....abonará un deseo que siempre ha estado ahí de que otros solucionen estos dilemas, la cuestión ahora es que si los sistemas de IA cruzan la frontera inédita de pasar de herramientas a agentes , entonces ahora tenemos otra alternativa que elegir a tal o cual gestor/político 

Hablar de escapismo en nuestras sociedades es hablar de la historia de la humanidad, incluyendo esa gran externalidad positiva que denominamos Industria del Entretenimiento (Industrias culturales le llamaban algunos) cuyo modelo de negocio se basó siempre en la necesidad de olvidarse por un tiempo (no necesariamente corto) de esa otra realidad que llamamos vida cotidiana 

Sustituir a ese político odioso o ese gestor empresarial inútil por un algoritmo efectivamente parece uno de esos casos de justicia poética o una venganza que cada vez parece más al alcance de muchos. Pero tampoco me cabe duda de que este escenario algorítmicamente centralizado no será tampoco un mundo feliz o exento de fricciones 

Lo paradójico es que la amenaza que veo a medio plazo no vendrá de una tecnología cada vez sea mejor , sino que los que nos gobiernan en todas las instituciones cada vez lo hagan peor...

Mensajes clonados: marketing político emergente y nueva realidad sintética

El marketing político está tan vivo como siempre porque tiene dos ventajas incuestionables: cuenta con toda la financiación necesaria y segundo, (no menos importante...) los resultados se ven inmediatamente después de unas elecciones (funcionó/ no funcionó) 

Creo sinceramente además que el mkt político ha entendido antes que los demás la característica de usar y tirar que tiene las herramientas tecnológicas en sus campañas , ya que una vez probado su éxito la copia por parte de los competidores rápidamente lo hace inservible

Como consecuencia, los desarrollos actuales en Inteligencia Artificial (IA) están siendo rápidamente incorporados en las campañas políticas, sin pararse (demasiado) a pensar los potenciales riesgos futuros ya que el objetivo siempre es ganar las elecciones al oponente , sin importar los medios (con matices claro!) 

El mayor laboratorio mundial del uso de la tecnología en unas elecciones es la India (una potencia tecnológica) una democracia donde votan 1000 millones de personas (más de 3 veces el número de votantes en los US) 

Los deepfakes de políticos son ya norma habitual en muchos países y procesos electorales pero el marketing personalizado que se está empleando en Rajasthan (68 millones de habitantes) me llamó la atención por la vuelta de tuerca cultural que supone 

En Rajasthan se van emplear mensajes de voz clonados de políticos pero personalizados con el nombre de cada votante para enviarlos a su cuenta de Whatsapp (India primer país del mundo en nº de usuarios) 

La empresa detrás de esta campaña se llama The Indian Deepfaker (TID) y su fundador (Divyendra Singh) hace esta antológica reflexión sobre el mercado político : (traducción libre mía) 

si piensas en la política como una empresa, todos los votantes son empleados que trabajan gratis y lo único que quieren a cambio es reconocimiento del político

Por eso,aunque las personas que reciben estos mensajes saben que NO es en realidad la voz original del político y que con toda seguridad éste NO conoce personalmente a sus votantes, la conclusión marketiniana es ¿que más da? (gato blanco/negro) 

Los (nuevos) medios sintéticos que usan la IA comienzan a entender que sus mensajes funcionan no por la tecnología que usan sino por que hay una realidad sintética (genera las reacciones y reproduce las condiciones de la realidad original) que al fin y al cabo genera los resultados deseados 

IA generativa como arma electoral : la primera de muchas

Como era previsible la utilización de los nuevos sistemas de IA que generan imágenes simplemente describiendolas en un texto aterrizan en la pre-campaña presidencial de los US, generando un efecto contagio que alcanzará a todas las democracias y autocracias del mundo 

La política siempre va detrás de los cambios sociales y parecía de cajón que este boom de sistemas AI usados ya por una minoría amplia de usuarios de Internet fuera utilizado de alguna manera para golpear al oponente

El primero, no se realmente si considerarlo pionero, ha sido el partido Republicano (GOP) que ha creado un video anti-Biden con imágenes fijas que reflejan una distopía de catástrofes financieras, militares (la amenaza China), colapso del sistema financiero y crisis migratorias que colapsan ciudades, en esencia, un resumen gráfico del discurso habitual de este partido en los US 

El video a estas alturas (para esa minoría atenta) es tan simple que (casi) cualquiera podía haberlo realizado con Midjourney o Stable Diffusion  de modo que parece un llamamiento para crear videos similares que inunden las redes populares o no, sabiendo de sobra que si circulan muchas de estas creaciones estadísticamente alguna se hace viral 

Pero como sabéis en política no se busca la originalidad sino la efectividad y si estos videos generados llegan al corazón de los indecisos, que son la verdadera clave de las elecciones, entonces diana! 

Este video y los centenares que sigan van a servir también de pretexto para que los analistas políticos de los medios hablen y hablen sin que realmente se añada nada al proceso, salvo que a cada herramienta nueva que aparece supone una oportunidad para zurrar al contrario o apuntarse un tanto el propio candidato 

¿Son los sistemas de IA una amenaza a la democracia etc etc? 

NO, o al menos igual que cualquier otro medio que consideremos (lo mismo decian de las redes sociales!), ya que la distorsión de la realidad es un fenómeno que conocemos bien desde que se publicaron los primeros periódicos en siglo XVIII

Lo que si resulta realmente paradójico es que los políticos que llaman abiertamente a una regulación estricta de estos sistemas de IA, sean los mismos que los usan como arma electoral sin pudor ...

La dificultad de juzgar a las 4 grandes tecnológicas: sobre oportunidades, mercados y monopolios

Hace años (?) que los políticos, que no la política, dejaron de ser la única representación de la voluntad, los intereses, la visión del mundo y las opiniones de las personas que viven en (casi) cualquier país del mundo

Y esto lo digo para contextualizar el show de ayer en el Subcomite Anti-monopolio de los US con la presencia (virtual) de los CEO de las 4 grandes empresas del sector tech: Amazon, Apple, Google y  Facebook

Los políticos y los medios adoran la foto del líder empresarial postrado ante el estrado público, donde los que suelen preguntar tienen menos idea de lo que hablan que cualquier ciudadano medio

Siempre me resultó llamativo la tendencia estadounidense a cargarse sus propias creaciones cuando piensan que estas son demasiado grandes o poderosas, sin perder nunca de vista el discurso de la innovación y la competencia (que en los US significa barato para todos)

Google, Amazon, Apple y Facebook son para muchos los heraldos del nuevo Evangelio digital y para otros los Cuatro Jinetes del apocalipsis digitalizado, en cualquier caso la clase política los considera un freno a la competencia y que como tal impiden mejores condiciones para todos

No me cabe duda que las 4 Grandes han tratado alguna vez (muchas veces sin éxito) de acabar con la competencia para gozar durante un rato de las ventajas del monopolio, algo aberrante para el consumidor, pero que por ejemplo ha permitido a empresas como Google invertir 90.000 millones de dolares en I+D (90 billion) en los últimos 5 años   

No conozco a nadie que sea fan de los monopolios, salvo cuando es el único competidor en un mercado, pero crear una juicio general contra la causa del poder de estas empresas es mucho pero mucho más complejo de lo que los legisladores creen

Y es que Google, Apple, Amazon y Facebook han aportado tanto a la vida de millones de personas (en todo el mundo) que hacer una causa general contra ellas supone poner en entredicho la cultura y la sociedad de nuestro tiempo

No tengo intereses personales en ninguna, y tampoco me importa o me cabe duda que en algún momento las 4 big tech serán sobrepasadas o sustituidas por otras que leerán mejor que necesitamos, pero si se una cosa: 

no hay mejor buscador (search engine) que el de Google, no hay mejor oportunidad para que la gente que vive en pueblos pequeños compre a precios competitivos que Amazon y no ha habido nadie que creara un objeto de deseo universal como el iPhone de Apple (sobre Facebook no soy tan efusivo)...

Redes sociales: ¿foros sociales o clubes de fans?

Si algo hay que agradecer al, por el momento, sorprendente presidente Donald Trump es que esta forzando el debate sobre la nueva libertad de expresión e incluso de lo que se considera espacios públicos de debate en este periodo Internet-centrico

Las continuas sospechas de la influencia de potencias extranjeras en las elecciones de la primera democracia del mundo y sobre todo el uso personal de una cuenta en Twitter para expresar, contestar y bloquear a los detractores ha puesto el tema en el top de la agenda politica

Trump no es un chalado ni mucho menos, sino un personaje que ha comprendido mejor que nadie como la opinión publica ya no se moldeaba a través de los medios del siglo XX (periodicos y cadenas de TV), sino de eso que todavia llamamos redes sociales

Con esta estrategia Trump le arrebató la presidencia a la candidata lógica Hillary Clinton que poseia todos los atributos politicamente correctos para ser la 45 presidente de los US, inaugurando una etapa de sucesos que no deberían hacer sucedido 

El cabreo monumental del establishment demócrata y sus anillos concéntricos europeos, dirigió su enojo hacia el mensajero, sin querer entender que lo que paso fue que los periódicos todo sobre-representaban una cierta élite que cuantitativamente NO representan al pais  

Las ansias reguladores de algunos senadores de los US y de la UE hacia Facebook, Twitter y a Google, olvidan que el problema de que estas plataformas se hayan convertido en foros sociales NO es de las empresas que los gestionan sino de las personas que han desertado en masa de unos medios que NO les representan

Lo sorprendente es que el Trump ciudadano siguió expresando sus opiniones/pasiones a través de una cuenta personal incluso después de convertirse en presidente en una metáfora que nos llevaria a pensar si el presidente Kennedy  hubiera editado un periodico propio para hacer llegar sus puntos de vista

Facebook, Twitter en efecto podrían ser regulados para garantizar la libertad de expresión que garantiza la Primera Enmienda de la Constitución de los US, pero con ello los legisladores le harían un flaco favor a los foros públicos legalmente establecidos (senado, congreso, incluso los organismo federales) ya que eso significaria darle una carta de naturaleza publica a plataforma que solo buscan que la gente interactue para vender publicidad!

Ademas si se diera este paso, ¿que pasaria con el siguiente escalón social media de las aplicaciones de mensajeria? (chat app) 

Whatsapp, Messenger, Snapchat, Instagram, Line etc hace tiempo que tienen más usuarios activos que Twitter, Facebook y están conformadas como agendas particulares donde las personas gestionan (maravillosamente!) su compleja comunicación cotidiana 

¿Los Estados también van a regular la libertad de expresión en estas charlas extendidas en circulos concentricos?...

PS: hemos tardado demasiado tiempo en darnos cuenta que no cambio la comunicación cambio el modelo social!

Comunicación politica: la remanencia social media

El auge de opciones políticas freakys o al menos que se salen de lo que la hasta ahora una gran mayoría consideraban normales (dentro de la norma) es uno de los fenómenos que vuelven de nuevo a finales de esta década, como un boomerang que describe una larga elipse de retorno

En los US, la aureola no sabemos si virtuosa de Donald Trump parece ilustrar bien este fenómeno que hunde su raíces en muchas causas, no todas relacionadas, veamos algunas: 

Por un lado, ya sabéis que la crisis también golpeó a los US (de hecho se puede decir que tuvo su epicentro en los USA) y que a pesar de que tienen un nivel de desempleo del 5%, o sea algo que aquí en Spain/pain NO hemos visto jamas de los jamases (ever), lo cierto es que hay todavía una legión socialmedia armada que esta re-cabreada no (solo) con Obama, sino con el establishment (lo que incluye a los nuevos tycons del Silicon Valley) 

Trump y el resto de populismos europeos de distinto color pero mismo collar no es que sean magos de las redes, pero si tienen un conocimiento tajante del efecto rebote y ventana que tienen lo que todavía algunos llaman nuevos medios

Lo primero es que los medios sociales son un flujo de renovación constante de ideas no necesariamente buenas pero si efectivas en el ataque, así que cualquier (medio) listo sabe que basta ponerte a repasar la catarata de tweets y te preparas el guión de las frases-bala de una semana 

Creo que fue el (fenecido) político español Alfredo Rubalcaba el que antes llego a darse cuenta que sus oponentes emergentes por la izquierda liberal (en el sentido norteamericano) no es que dijeran lo que la gente quería oir (definición de demagogia) sino que repetian lo que la gente decía, algo que tiene mucho sentido si quieres darte a conocer (caso de Mr Trump etc etc) 

Otra causa a tener (muy) en cuenta es lo que los autodenominados mass media ya no pintan nada!, tesis que sostiene la profesora Tufekci en el NYT y con las que estoy 100% de acuerdo. Como podreis comprobar los candidatos emergentes basan su campaña en los social media y luego acuden a los viejos medios, que adoran estos personajes por que les dan bien en el rating..

las redes sociales como Twitter, facebook no son la causa de ningún cambio político, simplemente son consecuencia de una tecnología que hace que los mensajes banales NO se pierdan (hemeroteca 4ever a coste cero) y que cualquiera con una cuenta y un Qwerty pueda inspirar a su candidato, algo que les dota de más de 15 minutos de gloria a muchos

En todo caso, estamos viendo que los medios y las instituciones tradicionales ya no dan a basto para controlar las esclusas abiertas por miles de nano-gatekeepers en red que adoran a todo lo que se mueve