Los monos de Elon y el peligro de la indiferencia (IA world)

A Elon Musk le sigo de manera intermitente porque habla mucho y en muchos foros mezclando además temas que cautivan o generan rechazo, pero en una reciente entrevista con Walter Isaacson (el autor de The innovators que en su dia me encantó) volvió sobre una de esas hipotesis que me parece no solo (muy) interesante sino probable: 

Cuando la IA supere la suma de toda la inteligencia humana y posteriormente los humanos perdamos el control (ya no estaremos al mando!) el mayor riesgo no será la existencia de una Super IA que nos domine o aniquile sino que pase de nosotros, o sea que la IA sea tan consciente de su propia superioridad que simplemente nos ignore

La metáfora -realmente icónica- que usa Musk es comparar la relacion de la IA con nosotros con la que tenemos con los monos: no nos metemos en su forma de vida, ni tratamos de controlarlos, ni mucho menos de aniquilarlos, sino que son algo que esta por ahi al fondo sin perturbarnos 

¿Porque se iba a ocupar la IA de controlarnos cuando tiene otras misiones y objetivos más altos? como veis aunque suena simple es una reflexión al menos necesaria, si la IA sigue avanzando exponencialmente (fechas hipóteticas aparte) como estos ultimos 7 años (desde el famoso paper de la Atención is all you need)

No obstante, en la comparación de humanos ocupando el espacio de los monos hay un punto de fuga: una cosa es la diferencia entre el nivel de inteligencia de dos especies (o de sistemas  artificiales) y otra (muy distinta) el principio de autoridad 

Y la autoridad se diseña delegandola o limitandola por completo, al fin y al cabo los humanos hemos creado la IA pero ella no a nosotros, aunque claro una IA creada por IA tampoco es una fabulacion de novela de ciencia ficción  

El decalaje de la inteligencia humana y artificial se va a producir por voluntad nuestra , sobre todo con las renuncias (la IA lo hace mejor y más rapido) y convirtiendo las verificaciones en rutinas con atención dispersa o meros tramites

IA y acceso no autorizado a cuentas bancarias: lo sorprendente no es el qué sino el cómo

Toda esta sobre-información sobre la IA hace realmente dificil analizar con algo de serenidad en que nivel realmente de innovación estamos en la IA, a lo que hay que añadir este tira y afloja de unos que meten miedo y otros que dicen que no es para tanto y que hemos superado fases mucho más complejas (en medio de eso me situo yo sin fanatismo)

No quiero repetirme ni argumentar aquello de "te lo dije" o incluso "a quien le puede sorprender" , pero si hay algo que cada dia detecto e intuyo de mis propias pesquisas (leo mucho realmente): hay una enorme, no se si creciente, brecha (gap) entre lo que la IA puede hacer y lo que la gente,incluso los que opinan, creen que realmente esta haciendo

Al respecto me quedé (algo) perplejo el otro dia cuando leia a Ethan Mollick decir que en los dos últimos años los agentes de IA pasaron de poder realizar 4 minutos de trabajo sin ninguna supervisión a 17 horas, y todo ello en un contexto social donde la principal discusión es si la IA nos va mandar a todos al desempleo o si los nenes usan bots para hacer los trabajos del cole..lo que me hace sentir como el capital Willard en Apocalypse Now (o sea, perplejo)

El disparador de este reflexión es la casi-sorpresa de que oh God! los bancos en US han detectado accesos no autorizados de agentes IA a cuentas bancarias!! y que algunos Cybercarteles llevan tiempo realizando un nuevo tipo de ataque coordinado a bancos y pasarelas de pago en Latam,  accediendo a datos como passwords, API keys e incluso mails de clientes

El hackeo de datos que permitan mangar dinero (incluso pequeñas cantidades a lo largo del tiempo) no es nada nuevo y los propios bancos hace años (si, años) que te previenen con alarmantes textos y graficos para que te tomes en serio tu cyberseguridad (con distinto grado de éxito claro), pero lo que es novedoso es que los malos usan ahora sistemas de agentes IA que analizan, trocean y realizan la tarea de robarte en tus cibernarices 

Lo que más perplejidad produce es que las herramientas que usan estos grupos organizados no son modelos de vanguardia (como Fable o Mythos) de esos que dejan usar solo a unos cuantas entidades fiables, sino modelos normalitos de uso (casi) común como Kimi, Claude Sonnet, Claude Opus y Grok

O sea que que con la capacidad instalada y disponible tenemos de sobra para hacer mucho más y como siempre los alumnos aventajados suelen ser los bandidos ya que no estos no pierden el tiempo leyendo controversias en hilos de reddit sino investigando cosas tan pragmaticas como operar en una plataforma abierta como PentAGI un enjambre (swarm) de agentes IA que les ahorran muchas horas de trabajo para alcanzar los mismos objetivos o sea robar

Es cierto que en la ya larga historia de las transacciones electronicas siempre se operó del mismo modo: se descubre vulnerabilidad y se tapa con empresas especializadas a la espera del nuevo ataque y cambiando las politicas de seguridad de los clientes (si te vacian la cuenta te lo cubro yo), asumiendo que cada nueva modalidad de ataque es más sofisticado y original (de potente no hablamos) y que les cuesta dinero a las entidades bancarias ..

PS_ Mr Altman , Mr Amodei es mejor que redirijan sus discursos a lo que su IA ya puede hacer en lo que actualmente tenemos y somos y se olviden de escenarios góticos del futuro....

La paradoja Netflix: cuando ganar dinero no basta (media lessons)

Netflix esta escribiendo la actual historia de los medios y como tal crea hitos antes que los demas pero tambien recibe las pullas de este nuevo escenario mediatico que contribuyo a crear, algunos datos: 

Netflix es hoy una empresa con ingresos trimestrales de 12.874 millones US $, un 11% más que el mismo periodo del año pasado aunque el incremento más bajo en 3 años. La publicidad, una via de ingresos que apenas tiene 4 años, es hoy un negocio anual de 2700 millones $, pero un poco por debajo de los 3000 m que esperaban y la plataforma esta presente y operativa en 190 paises (de 195 paises en el mundo no esta nada mal!) con 325 millones de abonados (subscribers) 

No hay nadie que se acerque a estos numeros, entonces ¿porque las acciones de Netflix han bajado un 26% este año ? 

Hay algo de presión del lider claro porque se demanda que todas las métricas sean las esperadas aunque los escenarios sean volatiles, algo que como sabemos es imposible. Las temores que espatan a (algunos) inversores no son tanto los ingresos como la sutil métrica del tiempo que dedican los abonados a ver los contenidos de la plataforma 

Algunas fuentes indies hablan de una caida del 25% en la cantidad de horas mensuales que los abonados dedican a ver Netflix, pasando de 66 a 49 horas en los últimos 3 años. Con algun dato añadido además, en la región que la propia Netflix llama UCAN (US&Canada) los abonados que no accedieron a la app en los últimos 30 dias (basicamente la pagas pero no lo ves) ascendieron al 16%, algo que si que da algo más de miedo si tu negocio es entretener a la gente 

Hay además otra via de preocupación y a mi juicio de esas que marcan tendencia: las plataformas de videos cortos como TikTok y la integral YouTube le estan restando tiempo de atención (de hecho la plataforma de Google es la lider en US)

¿Finalmente los videos creados por usuarios (UGC) le estan ganando la partida las costosas producciones que ofrece Netflix? no, pero las diferencias de costes son tan grandes (20.000 m $ este año se gastara Netflix ) que logicamente hay (algo) de preocupación 

Mi duda con el modelo de negocio de Netflix fue siempre si se puede mantener eternamente la carrera armamentistica de más gasto en más contenidos de calidad y populares sin dañar al final tu base financiera y sin perder en algun momento la intución de lo que quiere ver la gente y cuanto esta dispuesta a pagar 

20 años despues de su progresivo paso al streaming Netflix afronta obstaculos que ya conocimos en la larga etapa de los medios del siglo XX (competencia agresiva de nuevos players) , pero tambien las consecuencias de una inedita y abundante oferta a la que se accede desde cualquier pantalla, donde al final el resultado es si te ven o no, ya que la gente no se para a averiguar si ese video ha costado (casi) nada o un centenar de millones 

Fragmentación del comercio y la variente social TikTok Shop

Sigo pensando que el comercio es una de las actividades-espejo que demuestran la vitalidad de las relaciones sociales (¿que es el comercio sino?) o si prefieres lo vivos que estamos como sociedad

Realmente el comercio habia tenido muchas disrupciones antes de la llegada de Internet y el ecommerce, pero que duda cabe que este último fue un hito colosal que dio lugar a una nueva cultural global (a mi juicio una poderosa fuerza democratizadora) donde Amazon (pero no solo) fue el alumno aventajado (se dio cuenta antes que muchos) 

La innovación en el comercio en este selfie del último trimestre del 2026 presenta una nueva fractura en la oferta con la llegada del comercio con agentes (o agéntico aunque suena fatal!) que se suma a los que ya teniamos en la cabeza: comercio convencional, ecommerce y social commerce, aunque las superposiciones convierten a todos en hibridos (hay algun negocio que no tenga ecommerce?) 

Sobre el social commerce me quede hace tiempo con una opinión fijada (aka prejuicio): funciona solo en China y cuando se ha pretendido llevar a US/Europa pues no ha dado los resultados esperados, asi que existe como categoria pero no levanta el vuelo

hasta que revise los sorprendentes datos de TikTok Shop: el año pasado tuvo unas ventas totales (GMV) de 66.000 millones US$ , lo que dobla los resultados del 2024 y con previsiones además de que este año se vuelva a dobñar hasta los 122.000m $ 

Es verdad que en este tipo de plataformas de intermediación GMV no equivale a ingresos (revenue) pero si es un indicador de que el segmento de las ventas propulsadas por videos más o menos informativos y/o de entretenimiento son un nicho de mercado importante donde conviven 15 millones de vendedores! (sellers) aunque con una distribución de ingresos muy polarizada a lo Pareto

Fijaos en esto: el 60% de las ventas en TikTok Shop proviene solo del 1% de vendedores y en conjunto el top10 de vendedores factura el 93% de las ventas, lo que realmente deja muy poco margen para el 90% restante (muchos vendiendo muy poco)

La clave para entender esto es que en TikTok Shop (y en general en social commerce) el contenido es la ventaja competitiva (el moat de Buffet) ya que para lograr ese 60% de las ventas los vendedores tienen que producir más de 1000 videos! y si eres parte de ese 10% que produce menos de 10 videos apenas te llevas el 1% de las ventas ....

Esta distribución Pareto aparentemente no actua como barrera de entrada como vimos, pero si ha creado un mercado donde muy pocos venden mucho o casi todo y la mayoria casi nada, aunque entiendo que la mera presencia debe reportarles otras ventajas

Personalizando TU algoritmo: la sospecha del espejo

El anuncio de Meta de que va a permitir a los usuarios de Facebook personalizar que quieren ver en sus Feed y Reels no es novedoso en este mercado de los social media y no tiene mas relevancia tecnologica que el uso de LLM para ayudar en esta personalización, no obstante va a ser revelador en el pseudo-debate de la orientación algoritmica de nuestras preferencias 

Desde el inicio del declive social de los antiguos medios informativos se argumentó que los llamados social media actuaban como camaras de eco de los sesgos de las personas, ya que los algoritmos de recomendación refuerzan y recompensan (con más oferta) estas preferencias personales, algo que periodicos y TV del siglo pasado intermediaban mediante editores y programadores humanos, o si prefieres era un nosostros sabemos lo que quieres o lo que debes ver (véase los medios públicos en Europa)

Además muchos artistas y auto-denominados creadores criticaron que los algoritmos de recomendación les discriminaban y favorecian opciones mayoritarias /mainstream  y que no les queda más remedio que adaptar sus creaciones a lo que el algoritmo premia sino quieren disolverse en el anónimato...

Podria ser verdad pero estas criticas siempre parecian olvidar algo importante: los algoritmos son cadenas de ordenes que alguien (humano) construye y un medio que vive de la atención y el arraigo (engagement) de su audiencia (aunque les llamen usuarios) siempre clasifica estas ordenes para que se parezcan mucho a lo que la gente espera , ya que no hay placer ni dinero en mostrar lo que la gente no espera 

¿Y porque Meta ahora abre esta caja de Pandora controlada en sus medios?

que no te quepa duda alguna de que Meta sabe dos cosas: una que lo que elijan ver ahora los usuarios de Facebook o Instagram no va a ser muy diferente de lo que ya mostraba su algoritmo de recomendación 

y segundo ¿que mejor oportunidad para personalizar aun más el algoritmo que dejar que los usuarios indiquen que echaban de menos en sus recomendaciones? O sea una mejora a coste cero, presentandose además como los subcampeones de la libertad de elección de contenidos 

El algoritmo como ves NO desaparece , sino que se transforma en un mecanismo de automatización de deseos, con el añadido de un margen casi inexistente para las criticas ya que es la gente la que elige (con muchas matizaciones claro)

Un mundo de directores de orquesta: incognitas IA

Creo que es un deseo compartido y universal lo de transitar por el mercado laboral con los menos cambios profundos posibles, y como sabemos esto (casi) nunca se cumple, al menos desde el comienzo de las revoluciones industriales del siglo XIX

Los memes sobre adaptarse al cambio los corean muchos pero se lo creen realmente pocos, porque los cambios se llevan por delante rutinas, estructuras que creiamos consolidadas y por su puesto, una obsolescencia de habilidades (skills), por eso los gremios de la época reaccionaron con tanta furia contra Taylor y sus formulaciones sobre la (nueva) división del trabajo

La IA actual pero tambien las proclamas politicas sobre la Super Inteligencia Artificial como objetivo está metiendo miedo a esa parte del sector laboral que durante los últimos 30 años se sintieron confiados en su utilidad y por tanto alta empleabilidad: me refiero a los ingenieros de software ( y un extenso etcetera)

Hay distintas opiniones claro sobre si esta sustitución de ingenieros por modelos IA es tan rápida y real como algunos dicen o una exageración (hype) que no se corresponde con la realidad del mercado laboral. 

Pero lo que si parece constatable es que los chavales que estan ahora estudiando ingenieria, las news sobre lo que la IA ya hace o va a hacer en unos meses (de años ya nadie habla) les resultan desalentadoras teniendo en cuenta que hasta ahora terminar un grado de Ingenieria en los US era una garantia de empleo e ingresos muy por encima de la media 

En efecto, la metáfora de un mundo de directores de orquesta no de músicos donde los humanos supervisan el trabajo de los ejecutantes artificiales, se esta empezando a ver ya en muchas empresas de soluciones tecnologicas, y mientras uno lo ven como una evolución de los roles laborales hacia la supervisión y mayor responsabilidad otros lo leen como se necesita un solo director para dirigir una orquesta, asi que habra menos demanda.  

Las revoluciones tecnologicas son apasionantes para estudiarlas pero no creais que son gratas de transitar ya estes fuera o dentro del mercado laboral, porque las personas necesitan hojas de ruta sobre a donde y como dirigirse aun asumiendo que tienen alguna tasa de variación-error

La desorientación actual sobre que estudiar, como y donde me parecen señales más evidentes de una etapa de cambio profundo que los propios avances en IA (el efecto es más evidente que la causa) y me parece logico el malestar creciente porque nadie sabe como saldremos de ésta (y viendo quien nos gobierna menos!) 

¿Consejo? pues como nadie sabe a ciencia cierta como será un mundo pos-IA , lo más sensato es perseverar en lo que a cada uno le motive o se le de mejor y luego veremos como quedan las fichas colocadas, asumiendo que unos saldran más favorecidos que otros (¿habilidades manuales?) o sea, lo que paso siempre

40 años no es nada! : promesas, temores y realidades de los robots

Muy poco tiempo antes de esta etapa IA-orientada donde (casi) todo se interpreta desde o para la IA (AI), esas maquinas autonomas que llamamos robots constituian el principal elemento del imaginario colectivo y singular de la automatización en marcha y asumida (llevamos dos siglos de revoluciones industriales!) 

Pero, la reorientacion del pensamiento hacia una automatización (incompleta) mediente modelos de IA choca siempre con el factor fisico, es decir que tarde o temprano te encuentras con que una gran parte de las tareas que realizamos como tribu son (todavia) físicas. 

El atajo para solventar este pequeño matiz :) es, como no, aplicar IA a los actuales y futuros robots, lo que crea fundadas esperanzas de una aceleración en la tasa de sustituición del trabajo humano por robots,a partir de ahora dotados de algun tipo de inteligencia que les permita adaptarse a tareas y entornos para los que no fueron especificamente programados (el mismo principio que se basa el Machine Learning)

Al respecto dos economistas de Anthropic se hicieron la pregunta de que pueden hacer los robots en la actualidad y utilizaron Claude, el modelo de IA de su casa, para el analisis y las proyecciones futuras. la diferencia con los centenares de analisis más o menos apocalipticos sobre los robots y los empleos humanos es que muestra datos que desmienten buena parte de lo que muchos pensaban y sostenian hasta ahora

Por ejemplo y siempre viendolo desde la perspectiva de los US, los robots que hay ahora mismo en el mercado podrian hacer hasta el 74% de las tareas fisicas que se realizan actualmente en los US. ¿Amenazante? bueno ahora vienen los matices: 

las tareas fisicas representan el 46% del tiempo de trabajo total, o sea una minoria muy mayoritaria que deja algo en entredicho las entusiastas hipotesis sobre las sociedades de la información de hace 3 decadas. Esto nos deja un margen del 54% de tareas que podemos considerar intelectuales e interpersonales (desde una enfermera a un arquitecto)

Ahora bien si tomamos el total de tareas, un 12% de estas NO puede ser realizado, al menos por ahora, por ningun robot., ¿ejemplos? pues dar clases, prestar asistencia medica de urgencia, o trabajar en una peluqueria o arreglar un motor de combustion 

Los robots en efecto pueden hacer tareas que antes haciamos nosotros, pero lo que vemos hasta ahora es que alli donde tienen más presencia es en entornos que han sido construidos especificamente para ellos (como las cadenas de montaje de coches o de aparatos electronicos) 

Si sacamos a los robots de sus escenarios ad hoc tan solo puede realizar el 1% de las tareas que hacemos, de modo que su presencia es más mediatica que porcentual: desde los coches autonomos de Waymo, el riego automatizado de parques y jardines, hasta la vigilancia area con drones 

¿Se esta acelerando la tendencia hacia la robotización con la IA? pues esa es la incognita, pero de momento el cuello de botella de la robotica es el precio, es decir es mucho más barato todavia emplear gente que comprar un robot y al ritmo actual de abaratamiento de estas maquinas tardariamos 40 años en sustituir el 10% de las tareas humanas 

Esto nos dejaria un margen de al menos una generación laboral completa antes de tener un robot pizzero en cada barrio ¿no?