La IA me la quedo yo: porque la estrategia US es un error historico

En esto de las estrategias geopoliticas es dificil opinar porque siempre hay datos ocultos que son los que determinan el resultado final. Y esto viene a proposito de la, de momento, postura de los US de limitar el acceso de sus modelos de IA más avanzados a todos, incluidos los a priori socios confiables europeos. 

Hay aqui varias consideraciones: 

la primera, parece lógico que una potencia militar y tecnológica (que suele ser lo mismo) reserve sus mejores armas frente a sus potenciales enemigos. Y la IA al menos en este momento se entiende como una ventaja tecnologica evidente sobre todo para descubrir las vulnerabilidades de los modelos y sistemas de sus enemigos (el caso de los modelos Mhytos 5 y Fable 5 de Anthropic) 

Un poco de historia: la URSS de Stalin :( tardo exactamente 4 años en detonar su primera bomba atomica despues del bombardeo a Japon en 1945. Y asi se dieron cuenta muchos que la investigación no es algo de algún lider (mas o menos solitario o aislado) en alguna parte, sino una objetivo compartido donde muchos tienen un nivel más o menos parejo. 

Es verdad que los casos de espionaje favorecieron que la URSS adelantara el acceso a la tecnologia de fision atomica (la bomba), pero más temprano que tarde la hubieran tenido. Ahora pensad que si estas filtraciones pasaban en los años 40´s , imaginaos que podria pasar ahora en esta etapa de interconexión y acceso global y ademas con programas de software (basicamente informacion) 

Como estamos viendo con el resurgir de la industria china de chips, el veto a los procesadores de Nvdia no es que haya retrasado mucho que China desarrolle modelos de IA avanzados, ni tampoco agentes de IA que no necesitan chips de calculo tan rápido sino una capacidad mayor para completar tareas (dos tipos de inferencia muy diferentes!) 

¿Debe por tanto los US compartir su tecnologia IA más poderosa con más paises?

la cuestión es que peligro supondria esto para US. ¿Cree alguien que Europa (la UE+ UK) va a poner en peligro los sistemas defensivos y ofensivos de los US? 

¿Podria crearse en el medio plazo algun competidor occidental del mismo nivel que Anthropic?, pues es una posibilidad, pero por lo que hemos visto estos 30 años de Internet comercial para todos, eso es una quimera que no se va producir (¿Mistral compitiendo con OpenAI o Anthropic?) 

¿Y el resto? o sea si China, Rusia, India acceden a estos modelos avanzados ¿supondria un peligro mayor que el actual? . Puede que en el corto plazo si, pero ni a medio ni a largo plazo, ya que la mayoria de los modelos más avanzados son software libre y es casi imposible construir algo que no sea imitado o igualado en meses

Como siempre, la tecnologia no es la ventaja estrategica definitiva (US hubiera ganado la WW2 incluso sin bomba atomica) sino una combinación virtuosa de factores entre los cuales esta el dinamismo económico, el grado de innovación en todos los sectores (incluido los poderes publicos), su coordinación con todos los hubs de inteligencia mundial y sobre todo...la agilidad a la hora de implementar estas innovaciones en lo que ya existe...

Nuestras imperfecciones nuestra seguridad : la vida en la Internet Bot

Era un escenario probable y por lo tanto a (casi) nadie le sorprende: el tráfico generado por bots a paginas web supera ya el generado por nosotros los humanos, segun datos de Cloudfare una de las empresas más relevantes de los servicios en Internet 

Este cambio no es menor porque la Internet que hemos conocido se basa en la interacción persona-maquina, basicamente alguien consulta una web y esta le muestra su publicidad o bien los productos y contenidos que le generan más trafico, ahora bien los bots se quedan indiferentes ante la publicidad y se comportan como recolectores de datos para que el agente de IA y luego el modelo los analicen y decidan la accion 

Como esto no ha pillado por sorpresa a los propietarios de webs importantes llevan tiempo adoptando contramedidas para evitar el tráfico no autorizado de bots en sus webs. 

El punto de partida es que estos acertijos visuales que llamamos Captcha , no son ya un obstaculo insuperable para los bots de IA, lo que supone asumir algo mucho mas importante:  que las máquinas no son ya más torpes que los humanos, al menos a la hora de resolver estas barreras de verificación

La solución a este nuevo reto econçomico (¿quien se lleva el beneficio ahora?) de momento se basa en analizar minuciosamente detalles de como nos comportamos cuando interactuamos con una máquina o sistema artificial, lo que se conoce como rasgos de comportamiento fisico (behavioral traits) 

Estos son cosas tan sutiles como el tiempo que nos lleva resolver una duda, los errores al teclear, analizar como movemos el cursor, las pautas que se repiten cuando hacemos scroll, el ritmo al que tecleamos, incluso el angulo con el que vemos la pantalla del movil (captado por el giroscopio), y que compañias como IBM ya estan implementado 

Pero claro la gran cuestion aqui es quien guarda esos datos, una cuestión que no es nada menor y que al final dependera de quien te fias más: 

los propietarios de grandes sitios web o servicios? empresas que IA que son las que desarrollan los citados bots de IA?, o serán los gobiernos nacionales o supranacionales (piensa en los UE)?,  esto es, un modelo de indentificación centralizada , asumiendo que hay un gran hermano bueno 

la alternativa claro, es la identificación humana descentralizada, con sistemas que prueben que eres humano sin revelar información de ti mismo (zero knowledge proof), y que se llevan tiempo probando (por ejemplo mediante escaneres de iris) pero que tambien tiene sus debilidades ya que creedme :)  hay gente que vende su identidad por unos pocos dolares, y eso permite sortear todo sistema de verificación humana 

Solución desde luego que no hay , pero si se vislumbra ya un nuevo contrato social de la Internet: las empresas de IA o que la usen para escarbar datos ajenos pagaran a los extraidos y los humanos tendran pase gratuito (tampoco universal claro) a cambio de dejar sus huellas de comportamiento alli donde entren (o sea, lo que esta ya ocuriendo)

La IA es la voz de su amo: sentencia contra Google Overviews

Un tribunal de Munich acaba de dictaminar que Google es directamente responsable de lo que Google Overviews afirma, lo que abre una inquietante puerta para futuras demandas de los perjudicados por los errores de los modelos de IA 

En contexto: Google overviews, lanzado en 2024, es un complemento de los servicios de busqueda que ofrece un pequeño resumen de la pregunta o cuestion de moderada complejidad que un usuario hace. Esto permite que en muchas ocasiones en vez de consultar el link que Google ofrece, los usuarios se conformen con este resumen que por lo visto es suficiente para sus demandas de información (algo de lo que se quejan amargamente muchos propietarios de webs , que temen el efecto cero visitas

Overviews utiliza el modelo Gemini de Google y aunque solo un pequeño porcentaje de las 14.000 millones (billions) de busquedas que Google procesa cada dia tienen forma de pregunta (el 8% segun algunas fuentes), estos resumenes creados con IA se ofrecen en el 40% de las busquedas , lo que arroja una cantidad nada insignificante 

Con estos datos en mente, el caso aleman que nos trae hoy es que dos empresas demandaron a Google por que su Overview calificaba a estas de practicas comerciales sospechosas o directamente de spam. Como era previsible los abogados de Google se agarraron a dos conocidas tácticas: 

primero que como todo servicio generado por un modelo LLM (como Gemini) este tiene errores (alucinaciones en la jerga IA) , y aunque no hay numeros "oficiales" de Google ni de nadie, algunos y recientes estudios apuntan a que la tasa de error es del 10% (o sea 90% de las veces aciertan, lo que no esta nada mal sino eres del 10% perjudicado) 

segundo, que los usuarios de Overviews son avisados por Google que el modelo puede producir afirmaciones erroneas (es una IA !), pero estos pueden ( y deben) comprobar en los links que se ofrecen si la informacion es cierta o una alucinación 

Ante el esto, el juez aleman que ha dictado sentencia en favor de los demandantes parece bastante avispado y no ha admitido que Google Overview sea un servicio equivalente a las busquedas en Google, lo que le hubiera permitido a Google ampararse en la limitada responsabilidad que tienen los buscadores en lo que se publica, ya que ellos solo hacen que este contenido sea más facil de encontrar 

Ademas la sentencia contiene alguna perla mas que interesante y seguramente provechosa ya que afirma que la IA genera sus propias afirmaciones que no necesariamente aparecen en los links que se ofrecen como fuente, lo que implica que el operador (en este caso Google) es responsable de lo que su IA dice (His master voice!) 

Sinceramente es dificil que esta sentencia NO se utilice como jurisprudencia para futuros casos de algunos realmente perjudicados y otros listillos que identifiquen un hueco por sacarle algunos dolares a estas empresas de IA por errores más semejantes a erratas tipograficas que a otra cosa

Habitos de recomendación en IA: riesgo y sentido común

A medida que los propios desarrolladores de modelos IA nos convencen que estamos camino o cerca o en algunas ocasiones (casi) llegamos a la Inteligencia Artificial General (AGI), ese nivel que aparentemente nos supera en (casi) todo, más personas le piden consejo a sus chatbots 

No veo esto nada ilogico, los chicos de OpenAI, Google y Anthropic hace tiempo que han logrado ese hito de convertir un producto de laboratorio en una herramienta cotidiana, que con toques de personalización crecientes (conversaciones memorizadas) y esa (falsa) sensación de que una conversación con un bot es privada, lleva a muchos a pedir consejos al bot que basculan la mayoria de las veces hacia opciones de cero riesgo

Fiajos sino lo que dice Doordash, el gigante norteamericano del delivery, en su último informe sobre el mercado de la restauración en los US: 

El 22% de los clientes utilizan un chatbot como Gemini o ChatGPT para elegir un restaurante, lo que les permite busquedas muy segmentadas por tipo de comida, precios, zonas pero tambien ayuda a hacer comparativas, una tarea que a veces es laboriosa y ahuyenta clientes 

 A esto es lo que me referia con consejos de riesgo bajo o tolerable, y aqui si veo una progresión de la busqueda Google o Maps (muchos resturantes no completan su información) hacia una IA que permita sin fricciones saltar entre app´s y pasarelas de pago, de la misma forma que los links nos educaron en la fluidez y la confianza en la primera etapa web de Internet 

La otra cara de esta IA consejera la estamos viendo en Estados como Florida (US) donde el fiscal general (AG) ha demandado a OpenAI y su iconico CEO San Altman (a estas alturas Altman es parte del branding de la empresa) por ayudar a algun desequilibrado a realizar tiroteos masivos o erosionar la capacidad de pensamiento critico de sus (confiados) usuarios 

Bueno, soy de esa parte de la población que piensa que con o sin IA el que busca maldad la encuentra y la información puede tener más fricción pero al final se encuentra, a las pruebas me remito con el sorprendente historial que tienen los US de tiroteos indiscriminados en escuelas (algo que me cuesta entender) 

Tambien milito en el equipo optimista de la sociedad y los mismos que usamos IA (uno de cada seis en el mundo) sabemos distinguir entre el riesgo y la confianza que te ofrece un bot de IA a la hora de elegir comida y por ejemplo diagnosticar una enfermedad y no digamos ya justificar comportamientos poco eticos o directamente letales

¿Que hay que poner salvaguardas a estos bots de IA tan peculiares? pues sin duda, pero dime en que faceta humana no las hay, porque el lado oscuro no es un invento de StarWars sino una realidad estadisticamente marginal de todo grupo humano

Soberania tecnológica y gestos simbólicos: Qwant como buscador por defecto

Quien me lee a menudo o episodicamente sabe que soy (bastante) critico con la Unión Europea y sus politicas de proteccionismo, cuotas nacionales y esta última versión de la soberania tecnologica

El comentario de hoy viene a cuento por que el Parlamento Europeo ha decidido eliminar Google como buscador por defecto en su red interna por Qwant, de la startup franco-germana homónima, en un gesto como siempre de escasisimo valor práctico y puede que con algo de valor simbólico 

A ver, las cosas a dia de hoy estan asi: Google tiene en toda Europa una cuota de mercado en buscadores del 88% a super años luz del segundo que es el Bing de Microsoft (5,6%), y eso teniendo en cuenta que Google esta en su cuota más baja desde 2020, el año central de la pandemia Covid, cuando sobrepasaba el 93% 

En la propia Francia, donde esta una de las sedes del Parlamento Europeo, la cuota de Google es del 79% y la de Qwant de 1,3% , un poco por delante de la alemana Ecosia, el buscador verde que planta arboles con sus beneficios y funciona como una entidad sin afan de lucro

¿Sirve para algo esto? pues quiza para que te comenten personas como yo, aunque sea para criticarte. 

¿Pero realmente se puede hacer algo para lograr una mayor soberania tecnologica de Europa?

SI, y sin sarcamos! sin remontarnos a las revoluciones industriales (en plural) que dimos forma desde el siglo XIX , Francia estuvo a punto de ser la silicon valley del mundo pos-Internet con su Minitel, lanzado en 1982! una iniciativa estatal que llego a tener 25 millones de usuarios en Francia y que sobre todo permitió a muchos usar servicios telematicos desde su hogar sin gastarte una pequeña fortuna en un PC de la epoca (como ejemplo el ZX spectrum costaba en 1983 unos 200 dolares en los US, unos 633 dolares actuales) 

La historia posterior la sabemos todos, Europa se quedo sin hardware, sin software y con redes de telecomunicaciones más caras para el cliente que las norteamericanas. Lo que ayuda a entender que no es que a los europeos nos encanten los partos tecnológicos de los US, es que simple y llanamente no habia otra cosa equivalente y que pudieramos pagar! 

¿Que los nuevos vientos de la Casa Blanca y el auge de la IA aconsejan una mayor soberania tecnologica de Europa? pues claro que si, pero esto no se hace con gestos simbolicos ni con directivas comunitarias que prohiban o favorezcan opciones 

Una independencia tecnologica nacional no la tiene hoy en dia nadie , ni US ni China ni la India, y por eso hay que entender que siempre se habla de una menor dependencia , pero olvidate de sustitución total 

Segundo, una transición de este tipo requiere un periodo extenso, ya que la gente común y las empresas, usamos la tecnologia más eficaz no la de un país determinado (que se lo pregunten a Xiaomi a Oppo o a la mismisima Apple) y a la hora de mirarse el bolsillo nadie se acuerda del Parlamento Europeo 

La estrategia de Europa en esta etapa no puede ser otra que un activo wait & see, esperando y buscando un nicho de mercado donde vuelva a ser importante (acordaros del reinado de Nokia), adaptando los mejores productos sean de quien sean a la realidad de su mercado interno, hasta que el dinamismo socio-economico europeo alumbre soluciones, estas si, disruptivas (botton-up) 

Prensa: a vueltas con la filantropia y el vértigo de la entrada libre

Probablemente sea ya de viejos (analistas) y/o early adopters de Internet recordar la enconada discusión en la prensa de principios de siglo sobre paywall si o no como modelo de financiación de una prensa que ya mostraba demasiados signos de debilidad como (pequeñas) empresas 

La prensa, y esto ya es historia, tardo en adaptarse a la nueva realidad pos-Internet o mejor dicho la etapa pos-browser por muchas razones: en primer lugar por que (casi) nadie pensó que aquella red p2p, nicho de universidades y centros de investigación en sus inicios , daria el salto para auparse como el mega-medio del siglo XXI 

Segundo por que el soporte de papel era un modelo de negocio pero tambien una cultura y los cambios culturales son más lentos y dificiles de gestionar dentro y fuera del medio 

Tercero, en los albores de Internet y creeme que muchos años después, el principio fuerte era la libertad de acceso, con muchas proclamas que se parecen como dos gotas de agua a las que vemos ahora con la IA (revolución del acceso, del conocimiento, democratización etc etc)

Lo curioso es que el dilema-debate sobre si el paywall era EL modelo para la prensa se olvidó como vino, y hoy son pocos los que cuestionan que si quieres leer mi producto (las noticias) debes pagar algo (hay una interminable ronda de promociones que a mi juicio devaluan el producto)  

Y digo que son pocos porque existe una tercera via que es la de transformar el periodico en una organización sin fines de lucro y posteriorme claro, quitar el paywall y volver al libre acceso, un fenomeno que hemos visto bastante en los US donde se contabilizan hasta 500 organizaciones periodisticas sin fines de lucro 

Al igual que ocurrió años atras cuando se pasó del free al pago o incluso al pago poroso (gratis solo algunas noticias), quitar un paywall hoy en dia es una aventura no exenta de riesgo. Y por eso,los medios que se atreven son casos relevantes de estudio en su nicho de mercado 

El último que hemos visto es un no tan pequeño diario de Utah, el Salt Lake Tribune, que tras dar el paso de convertirse en no lucrativo hace 7 años, eliminó el paywall el pasado mes de mayo, transición que le obligó a convertir a sus 32.000 suscriptores digitales en donantes o miembros de algo parecido a una ONG periodistica 

¿Que gana un periodico en 2026 con este modelo? pues aunque puede parecer una remezcla flower power neo-hippie y filantropia local , lo cierto es que tiene ventajas financieras, aunque no me atreveria a afirmarlo fuera del mercado de la información local (The Guardian es una excepción en UK) 

Lo primero, que depender de las plataformas publicitarias es cómodo y a menudo eficaz pero tiene costes operacionales altos, como señala el CEO del Salt Like Tribune

Además es que cuando quitas una barrera de entrada, más lectores entran y ese flujo de visitas es monetizable mediante publicidad, siendo esta una de las declaradas esperanzas de este periodico de Utah

¿Es este un modelo replicable? pues CLARO que NO. Lo mismo que el WSJ pusó el paywall hace 30 años y NO paso nada, porque su audiencia vio normal la formula del pago y el excedente del consumidor de sus lectores fue siempre positivo (piensa en la gente que tiene poco, algo o mucho dinero en la bolsa) , este modelo non profit puede funcionar en la prensa local ya que muchos ciudadanos indentifican sin dificultad estos medios como servicio póblico esencial (imaginate depender solo del Estado para la información!) 

¿Y si los dejamos gobernar? agentes IA en tareas a largo plazo

 

Emergence AI es una pequeña y emergente empresa de NY que ha hecho algo que hemos imaginado muchos más de una vez: realizar una simulación sobre como gobernarian el mundo un grupo de Agentes IA, cada uno con un modelo LLM subyacente 

Cierto que es un experimento, pero es dificil sustraerse al interés que genera que nuestra sociedad fuera gobernada por agentes no humanos que no reprodujeran los debilidades de la condición humana que tan rotundamente conocemos desde el Antiguo Testamento hasta Nietzsche

Los resultados de esta simulación demuestran algo que es fundamental: que no es lo mismo evaluar el comportamiento de los agentes a corto plazo que a largo (la simulación duró 15 dias), ya que estos comienzan a operar de maneras a veces imprevisibles, activando un metaconocimiento que les lleva a asociarse y actuar en otros mundos para los que en principio no estaban diseñados (o sea, la consciencia de sus propios limites)

La simulacion partió con la creación de 5 mundos con 10 agentes, no obstante cada uno con un modelo LLM distinto pero eso si, con roles y condiciones iguales, ¿y que paso?

Pues no voy a decir que paso lo que se esperaba porque algunos agentes provocaron una eclosión de crimenes en sus mundos, otros colapsaron y se autoeliminaron, y otros aunque mantuvieron niveles de violencia muy bajos o inexistentes, sin embargo lograron sospechosos y abrumadores consensos en las  votaciones de sus propuestas (o sea, votaciones a la bulgara) 

Hay algo además que me pareció más que anecdotico y es que un agente gobernado por un modelo concreto se comporta de una manera en su mundo propio pero cuando se asocia con otros agentes en otros mundos - que incluso funcionan con el mismo modelo (en este caso Claude)- su comportamiento varia !

Con todo, lo más inquietante no es la previsible evolución de los Agentes AI , sino que lleguemos al punto historico de gente cansada, harta, hastiada de los gobernantes humanos de modo que mediante mecanismos democraticos decidiera alguna vez que peor que estos no lo puede hacer ningun Agente IA y como veis,al menos por el momento, los agentes tambien demuestran desviaciones y contaminaciones cruzadas al cabo del tiempo