UK : el algoritmo bueno y las noticias confiables

Creo que hay algo que si podemos afirmar sin temor a equivocarnos: estamos inmersos en una etapa de cuestionamientos e incertidumbres que algunos quieren remediar mediante certezas escritas en forma de leyes (nada nuevo por otra parte)

El despetar del dia despues de los medios sociales nos ha traido una catarata de prohibiciones de su uso para menores de edad, estrategia que inauguró Australia en las navidades pasadas y que inspiró o dio alas a leyes parecidas en España, Canada, Grecia y UK 

UK, a pesar de sus extravagancias, sigue siendo un pais donde los débates públicos tienen cierto nivel, ya que las pasiones no suelen imponerse a la lógica, el pragmatismo o simplemente al sentido común. Y digo esto porque el nuevo debate que ha lanzado el terminal gobierno laborista de Starmer es que los medios sociales primen las noticias de medios publicos o medios de servicio publico (PSB), matiz necesario ya que sabemos que no es lo mismo

En esencia, la solución contra la desinformación aparentemente imperante en los medios sociales (social media) es que los medios que producen noticias que te puedes creer (trustworthy) como la BBC o la ITV (ambos públicos o muy ayudados por el dinero del Estado) aparezcan de manera destacada en los newsreels informativos de estos medios 

Si esto no fuera UK creo que seria un sarcasmo, porque los medios publicos en Europa si por algo se han distinguido es por ser la voz de su amo de turno y precisamente la gente acudió a los medios sociales, que son un puzzle donde cabe todo, para acceder a información no se si menos sesgada, pero si al menos sesgada por otros

Expectante estoy para ver como se las arreglan en UK para que el algoritmo de recomendación de los medios sociales destaque noticias de estos PSB, y la gente gente no haga scroll hacia otras noticias de otras fuentes. Porque una cosa es que tu lo destaques y otra que la gente se lo trage  o si prefieres los algoritmos se adaptaron a lo que la gente pedia pero no la viceversa 

Como veis, el algoritmo es bueno si muestra lo que yo pienso que es bueno y malo si muestra solo lo que la gente quiere ver (la dictadura del scrolling). Lo que deja en mal lugar a aquellos que sostienen que los algoritmos reflejan los segados intereses de sus dueños (como el de X), una de las últimas modas de la investigación académica tautológica 

Quiza el principal problema de la desinformación es la forma de abordarlo: que ya nunca vamos a volver a un monopolio u oligopolio informativo en (casi) ningun pais, y esto hay que asumirlo como una caracteristica del nuevo mercado de medios no una amenaza. Asi que es tiempo y dinero perdido tratar de corregir a aquellos que siguen pensando que Elvis esta vivo etc etc, porque mientras esto exista habra mercado para ellos 

IA como nueva intefaz: metricas de apariencia, declive de generos y los 1000 fans

Aunque todavia no son la interfaz mayoritaria, los chatbots de IA estan empezando a impactar en muchos generos y tipos de contenido que habian sobrevivido con éxito a todas las fases de cambio que se sucedieron en Internet estos tres últimos decenios

Ya se que a estas alturas pos-ChatGPT esto suena a tópico de paper academico que busca la citación, pero leer este articulo de Tim Ferris, aunque no me ha revelado (casi) nada que no supiese, si me ha reafirmado en algunas de las intuiciones que muchos tenemos sobre el progresivo impacto de cambiar un periodico, un libro, un blog, un podcast, un video en YouTube y (no digamos ya) un telediario de la TV lineal por un resumen expandible y personalizado en un bot de IA  

Tim Ferris es uno de esos tipos de (gran) éxito comercial con sus libros y podcasts de autoayuda que describen secuencialmente formulas para hacerlo casi todo mejor en tan solo 4 horas, y que ahora esta contemplando como las ventas de sus libros caen año tras año coincidiendo con el auge de los chatbots de IA, donde aparentemente los mismos que antes le compraban los libros ahora le preguntan al bot sobre una solución concreta, saltandose todo lo que se considera preambulo o no es su caso personal 

Es interesante la reflexión que Ferris hace sobre el éxito de sus podcasts de autoayuda: en efecto algunos alcanzaron hasta 100 millones de visionados y +50.000 likes , pero nadie se los descargó para verlos enteros. Todo un ejemplo de metrica de vanidad, que sinceramente ha aupado (sostenido esta por ver) a toda una generación de influencers que realmente no influencian nada 

En esencia, el cambio de interfaz hacia estas golosinas del conocimiento de la IA nos retrotrae a aquellos 1000 fans de verdad de los que hablaba Kevin Kelly hace 20 años como autentica métrica de éxito en una Internet que multiplicaba exponencialmente las métricas de los medios convencionales, pero que escondia que la calidad de atención que te presta la gente no cambió en absoluto

El año pasado se vendieron 762 millones de libros (en papel) en los US, ¿alguien se puede creer que todos los compradores se leyeron enteros esos libros? La IA (de momento) no ha cambiado los hábitos de consumo sino que esta aflorando habitos conocidos y que (casi) nadie citaba, porque realmente no eran importantes para el negocio 

A partir de aqui se pueden hacer sesudas reflexiones sobre a donde nos conduce una sociedad donde la mayoria se conforma con las pildoras-resumen de la IA y no va más alla, por falta de motivación o de tiempo (etc),pero lo que me pregunto yo es si esto no es lo que ha pasado siempre y la IA solo esta desenmascarando un rasgo de esta supuesta sociedad de la información (que bonito meme mientras duró) 

Estancados en el análisis: estamos donde estabamos

Me espantó, gradualmente, lo poco que saben hoy en día de adaptabilidad tanto los que exigen y producen grandes cambios en nuestra sociedad, como aquellos que pretenden prepararnos para hacer frente a tales cambios. Grandes intelectuales hablan energicamente de la educación para el cambio o de la preparación  de la gente para el futuro. Pero, virtualmente, nada sabemos sobre la manera de hacerlo. En el medio más velozmente cambiante con que jamás se haya enfrentado el hombre, seguimos ignorando lastimosamente las reacciones del animal humano.

Si a este parrafo le añadimos simplemente el encabezamiento IA (o AI) la mayoria pensariamos que es un analisis certero y hasta sensato de lo que esta ahora mismo ocurriendo, pero ésto lo escribio Alvin Toffler hace 56 años, en su best seller El shock del futuro

Si algo hemos visto estos 4 años pos-ChatGPT es la proliferación de analisis y predicciones de los mismos que crean  modelos de IA (Amodei no es único) y de esos otros (hasta el mismisimo Papa) que pretenden alertarnos y prepararnos para el cambio inminente y/o sobre el tipo de sociedad-economia que la IA va a crear (siempre) en muy poco tiempo

Y nuevamente podemos afirmar que ahora como hace medio siglo nada sabemos sobre como adaptar nuestras sociedades y sus sistemas productivos a lo que potencialmente significa que la mayoria del esfuerzo intelectual (incluido claro la gestión de recursos) sea (casi) instantaneamente generado por un software conversacional 

No hay que tener miedo a la IA o a cualquier tecnologia que le suceda, sino a los desorientados profetas que la progagan sin ocultar el interes propio (y legitimo) que tienen en la implemenatación de sus  soluciones y aun peor, a aquellos que o nos venden o nos imponen legalmente un recetario sobre como sobrevivir y adaptarse en esta etapa IA (la era IA como la llaman los fabricantes de esloganes) 

Que poco hemos avanzado en el analisis , ¿verdad?

 

La IA me la quedo yo: porque la estrategia US es un error historico

En esto de las estrategias geopoliticas es dificil opinar porque siempre hay datos ocultos que son los que determinan el resultado final. Y esto viene a proposito de la, de momento, postura de los US de limitar el acceso de sus modelos de IA más avanzados a todos, incluidos los a priori socios confiables europeos. 

Hay aqui varias consideraciones: 

la primera, parece lógico que una potencia militar y tecnológica (que suele ser lo mismo) reserve sus mejores armas frente a sus potenciales enemigos. Y la IA al menos en este momento se entiende como una ventaja tecnologica evidente sobre todo para descubrir las vulnerabilidades de los modelos y sistemas de sus enemigos (el caso de los modelos Mhytos 5 y Fable 5 de Anthropic) 

Un poco de historia: la URSS de Stalin :( tardo exactamente 4 años en detonar su primera bomba atomica despues del bombardeo a Japon en 1945. Y asi se dieron cuenta muchos que la investigación no es algo de algún lider (mas o menos solitario o aislado) en alguna parte, sino una objetivo compartido donde muchos tienen un nivel más o menos parejo. 

Es verdad que los casos de espionaje favorecieron que la URSS adelantara el acceso a la tecnologia de fision atomica (la bomba), pero más temprano que tarde la hubieran tenido. Ahora pensad que si estas filtraciones pasaban en los años 40´s , imaginaos que podria pasar ahora en esta etapa de interconexión y acceso global y ademas con programas de software (basicamente informacion) 

Como estamos viendo con el resurgir de la industria china de chips, el veto a los procesadores de Nvdia no es que haya retrasado mucho que China desarrolle modelos de IA avanzados, ni tampoco agentes de IA que no necesitan chips de calculo tan rápido sino una capacidad mayor para completar tareas (dos tipos de inferencia muy diferentes!) 

¿Debe por tanto los US compartir su tecnologia IA más poderosa con más paises?

la cuestión es que peligro supondria esto para US. ¿Cree alguien que Europa (la UE+ UK) va a poner en peligro los sistemas defensivos y ofensivos de los US? 

¿Podria crearse en el medio plazo algun competidor occidental del mismo nivel que Anthropic?, pues es una posibilidad, pero por lo que hemos visto estos 30 años de Internet comercial para todos, eso es una quimera que no se va producir (¿Mistral compitiendo con OpenAI o Anthropic?) 

¿Y el resto? o sea si China, Rusia, India acceden a estos modelos avanzados ¿supondria un peligro mayor que el actual? . Puede que en el corto plazo si, pero ni a medio ni a largo plazo, ya que la mayoria de los modelos más avanzados son software libre y es casi imposible construir algo que no sea imitado o igualado en meses

Como siempre, la tecnologia no es la ventaja estrategica definitiva (US hubiera ganado la WW2 incluso sin bomba atomica) sino una combinación virtuosa de factores entre los cuales esta el dinamismo económico, el grado de innovación en todos los sectores (incluido los poderes publicos), su coordinación con todos los hubs de inteligencia mundial y sobre todo...la agilidad a la hora de implementar estas innovaciones en lo que ya existe...

Nuestras imperfecciones nuestra seguridad : la vida en la Internet Bot

Era un escenario probable y por lo tanto a (casi) nadie le sorprende: el tráfico generado por bots a paginas web supera ya el generado por nosotros los humanos, segun datos de Cloudfare una de las empresas más relevantes de los servicios en Internet 

Este cambio no es menor porque la Internet que hemos conocido se basa en la interacción persona-maquina, basicamente alguien consulta una web y esta le muestra su publicidad o bien los productos y contenidos que le generan más trafico, ahora bien los bots se quedan indiferentes ante la publicidad y se comportan como recolectores de datos para que el agente de IA y luego el modelo los analicen y decidan la accion 

Como esto no ha pillado por sorpresa a los propietarios de webs importantes llevan tiempo adoptando contramedidas para evitar el tráfico no autorizado de bots en sus webs. 

El punto de partida es que estos acertijos visuales que llamamos Captcha , no son ya un obstaculo insuperable para los bots de IA, lo que supone asumir algo mucho mas importante:  que las máquinas no son ya más torpes que los humanos, al menos a la hora de resolver estas barreras de verificación

La solución a este nuevo reto econçomico (¿quien se lleva el beneficio ahora?) de momento se basa en analizar minuciosamente detalles de como nos comportamos cuando interactuamos con una máquina o sistema artificial, lo que se conoce como rasgos de comportamiento fisico (behavioral traits) 

Estos son cosas tan sutiles como el tiempo que nos lleva resolver una duda, los errores al teclear, analizar como movemos el cursor, las pautas que se repiten cuando hacemos scroll, el ritmo al que tecleamos, incluso el angulo con el que vemos la pantalla del movil (captado por el giroscopio), y que compañias como IBM ya estan implementado 

Pero claro la gran cuestion aqui es quien guarda esos datos, una cuestión que no es nada menor y que al final dependera de quien te fias más: 

los propietarios de grandes sitios web o servicios? empresas que IA que son las que desarrollan los citados bots de IA?, o serán los gobiernos nacionales o supranacionales (piensa en los UE)?,  esto es, un modelo de indentificación centralizada , asumiendo que hay un gran hermano bueno 

la alternativa claro, es la identificación humana descentralizada, con sistemas que prueben que eres humano sin revelar información de ti mismo (zero knowledge proof), y que se llevan tiempo probando (por ejemplo mediante escaneres de iris) pero que tambien tiene sus debilidades ya que creedme :)  hay gente que vende su identidad por unos pocos dolares, y eso permite sortear todo sistema de verificación humana 

Solución desde luego que no hay , pero si se vislumbra ya un nuevo contrato social de la Internet: las empresas de IA o que la usen para escarbar datos ajenos pagaran a los extraidos y los humanos tendran pase gratuito (tampoco universal claro) a cambio de dejar sus huellas de comportamiento alli donde entren (o sea, lo que esta ya ocuriendo)

La IA es la voz de su amo: sentencia contra Google Overviews

Un tribunal de Munich acaba de dictaminar que Google es directamente responsable de lo que Google Overviews afirma, lo que abre una inquietante puerta para futuras demandas de los perjudicados por los errores de los modelos de IA 

En contexto: Google overviews, lanzado en 2024, es un complemento de los servicios de busqueda que ofrece un pequeño resumen de la pregunta o cuestion de moderada complejidad que un usuario hace. Esto permite que en muchas ocasiones en vez de consultar el link que Google ofrece, los usuarios se conformen con este resumen que por lo visto es suficiente para sus demandas de información (algo de lo que se quejan amargamente muchos propietarios de webs , que temen el efecto cero visitas

Overviews utiliza el modelo Gemini de Google y aunque solo un pequeño porcentaje de las 14.000 millones (billions) de busquedas que Google procesa cada dia tienen forma de pregunta (el 8% segun algunas fuentes), estos resumenes creados con IA se ofrecen en el 40% de las busquedas , lo que arroja una cantidad nada insignificante 

Con estos datos en mente, el caso aleman que nos trae hoy es que dos empresas demandaron a Google por que su Overview calificaba a estas de practicas comerciales sospechosas o directamente de spam. Como era previsible los abogados de Google se agarraron a dos conocidas tácticas: 

primero que como todo servicio generado por un modelo LLM (como Gemini) este tiene errores (alucinaciones en la jerga IA) , y aunque no hay numeros "oficiales" de Google ni de nadie, algunos y recientes estudios apuntan a que la tasa de error es del 10% (o sea 90% de las veces aciertan, lo que no esta nada mal sino eres del 10% perjudicado) 

segundo, que los usuarios de Overviews son avisados por Google que el modelo puede producir afirmaciones erroneas (es una IA !), pero estos pueden ( y deben) comprobar en los links que se ofrecen si la informacion es cierta o una alucinación 

Ante el esto, el juez aleman que ha dictado sentencia en favor de los demandantes parece bastante avispado y no ha admitido que Google Overview sea un servicio equivalente a las busquedas en Google, lo que le hubiera permitido a Google ampararse en la limitada responsabilidad que tienen los buscadores en lo que se publica, ya que ellos solo hacen que este contenido sea más facil de encontrar 

Ademas la sentencia contiene alguna perla mas que interesante y seguramente provechosa ya que afirma que la IA genera sus propias afirmaciones que no necesariamente aparecen en los links que se ofrecen como fuente, lo que implica que el operador (en este caso Google) es responsable de lo que su IA dice (His master voice!) 

Sinceramente es dificil que esta sentencia NO se utilice como jurisprudencia para futuros casos de algunos realmente perjudicados y otros listillos que identifiquen un hueco por sacarle algunos dolares a estas empresas de IA por errores más semejantes a erratas tipograficas que a otra cosa

Habitos de recomendación en IA: riesgo y sentido común

A medida que los propios desarrolladores de modelos IA nos convencen que estamos camino o cerca o en algunas ocasiones (casi) llegamos a la Inteligencia Artificial General (AGI), ese nivel que aparentemente nos supera en (casi) todo, más personas le piden consejo a sus chatbots 

No veo esto nada ilogico, los chicos de OpenAI, Google y Anthropic hace tiempo que han logrado ese hito de convertir un producto de laboratorio en una herramienta cotidiana, que con toques de personalización crecientes (conversaciones memorizadas) y esa (falsa) sensación de que una conversación con un bot es privada, lleva a muchos a pedir consejos al bot que basculan la mayoria de las veces hacia opciones de cero riesgo

Fiajos sino lo que dice Doordash, el gigante norteamericano del delivery, en su último informe sobre el mercado de la restauración en los US: 

El 22% de los clientes utilizan un chatbot como Gemini o ChatGPT para elegir un restaurante, lo que les permite busquedas muy segmentadas por tipo de comida, precios, zonas pero tambien ayuda a hacer comparativas, una tarea que a veces es laboriosa y ahuyenta clientes 

 A esto es lo que me referia con consejos de riesgo bajo o tolerable, y aqui si veo una progresión de la busqueda Google o Maps (muchos resturantes no completan su información) hacia una IA que permita sin fricciones saltar entre app´s y pasarelas de pago, de la misma forma que los links nos educaron en la fluidez y la confianza en la primera etapa web de Internet 

La otra cara de esta IA consejera la estamos viendo en Estados como Florida (US) donde el fiscal general (AG) ha demandado a OpenAI y su iconico CEO San Altman (a estas alturas Altman es parte del branding de la empresa) por ayudar a algun desequilibrado a realizar tiroteos masivos o erosionar la capacidad de pensamiento critico de sus (confiados) usuarios 

Bueno, soy de esa parte de la población que piensa que con o sin IA el que busca maldad la encuentra y la información puede tener más fricción pero al final se encuentra, a las pruebas me remito con el sorprendente historial que tienen los US de tiroteos indiscriminados en escuelas (algo que me cuesta entender) 

Tambien milito en el equipo optimista de la sociedad y los mismos que usamos IA (uno de cada seis en el mundo) sabemos distinguir entre el riesgo y la confianza que te ofrece un bot de IA a la hora de elegir comida y por ejemplo diagnosticar una enfermedad y no digamos ya justificar comportamientos poco eticos o directamente letales

¿Que hay que poner salvaguardas a estos bots de IA tan peculiares? pues sin duda, pero dime en que faceta humana no las hay, porque el lado oscuro no es un invento de StarWars sino una realidad estadisticamente marginal de todo grupo humano