Hablando solo de eficiencia energética : modelos LLM vs humanos

Sam Altman, el CEO de OpenAI, va camino de convertirse en alguien/algo más popular que los modelos que desarrolla su empresa, algo que no se realmente si es su objetivo primordial, aun asumiendo que a estas alturas hay retroalimentación: uno vende al otro (y viceversa?)

Hay que ver que controversia-burbuja que ha generado sus descontextualizadas declaraciones del pasado viernes en la India, cuando Altman dijo estar cansado de las críticas sobre el consumo de energía de sus modelos de IA (y estimo que todos los demás) y lo poco riguroso que es olvidarse que para que un adulto no alucine en responder una pregunta debe ser alimentado y entrenado durante 20 años! (que optimista!) 

Altman dijo que la pregunta-critica valida seria preguntarle a un modelo cuánta energía consume un modelo una vez que está entrenado versus un ser humano. Así que lo hice, y Gemini me dijo esto: (incluye fine-tuning mio)

Un cerebro consume en total entre 12 y 20 vatios , pero eso incluye todo, desde controlar que el corazón lata a escribir en este blog !. Nuestro cerebro utiliza una cantidad de energía casi residual para contestar una pregunta (menos del 5%), lo que le hace literalmente incomparable con el consumo de las neuronas electrónicas de una GPU como las de Nvidia 

Cuando preguntamos a alguien algo, su cerebro consume alrededor de 0,0002 vatios/hora, y con esa energía no iluminas ni una fracción de un segundo una lámpara LED , por contra un modelo estándar como ChatGPT consume unos 0,3 watios/hora, energia que nos daria para iluminar 2 minutos con esa misma bombilla LED 

Las comparaciones son casi siempre odiosas (viejo dicho latino) pero esta más, porque un humano consume en efecto un mínimo de 14.000 millones de kilocalorias durante 20 años (equivalente a unos 17.000 kwh en consumo eléctrico) para mantener vivo y activo (con variaciones claro), pero es que esto sólo tiene sentido como medida de productividad en la industria alimentaria, ya que si no gastamos recursos en mantenernos vivos y útiles, ¿para que diantres queremos la IA?

La IA genera más rechazo del que debería, en eso estoy de acuerdo con Altman, pero no por lo que hace o puede llegar a realizar, sino por discursos alucinatorios como este, que mezclan demagogia con ciencia, y levantando la nube de polvo del miedo para vender una tecnología como jamás vimos antes (ni veremos)

Data centers como generadores de empleo: caso a caso

Los data centers van camino de convertirse en las nuevas catedrales y/o factorías de esta primera mitad del siglo XXI. En efecto, se presentan como símbolos de una fuerza capaz de transformar el mundo tal como lo conocemos y aglutinan y generan un empleo que no existía, todo esto en teoría, siempre en teoría

La realidad, como siempre, es mucho más compleja y no se adapta a eslóganes entusiastas ni a estrategias a corto.  Hace un par de meses me llamó la atención una noticia relativa al rechazo del Ayuntamiento de la ciudad de Lleida (en el norte de España) para permitir la ubicación de un data center, por su escaso impacto en el empleo y la cantidad de recursos que necesitan como agua y energía

En efecto, este rechazo de este no tan pequeño municipio (138.000 habitantes) catalán parecía a contracorriente de la nueva visión de levantar data centers allí donde te dejen e imaginar un positivo trasvase de empleos desde el sector servicios a estas nuevas factorías que procesan pero no fabrican 

En la misma línea de abierto escepticismo el WSJ (más pro-business no se puede ser) publicaba hace unos días un articulo que señala a los data centers como bluf de cara a la creación de nuevos empleos, al menos en los US 

En esencia, los data center emplean muchas personas en su construcción pero luego pero luego muchas menos en su mantenimiento, que incluyen analistas de datos, ingenieros, electricistas, fontaneros y guardias de seguridad

Como ejemplo, un nuevo centro de datos actualmente en construcción en Texas de 92.000 metros cuadrados lo están construyendo 1000 personas pero luego empleara a unas 100. Un numero que palidece si lo comparamos con el empleo que generaria una fabrica o un centro logístico de igual envergadura 

A partir de aquí vienen las matizaciones: los data centers no son una sustitución del empleo local, sino una suma aditiva a lo que ya hay, por lo que cualquier lectura sobre transvase sectorial de empleos es por el momento apresurada o errónea

Segundo, cualquier instalación industrial genera sinergias siempre que encuentre unos sectores físicamente próximos con los que crear más valor, pero sino es así es poco más que un faro en una costa (da empleo al farero)

Para no caer en el pesimismo ni en el entusiasmo prematuro, conviene recordar que todas las revoluciones industriales previas se han construido sobre lo que ya existía, integrándolo o transformándolo (las regiones del norte de Inglaterra son un claro ejemplo), en cualquier caso es un proceso complejo (muchos factores) donde la eficiencia es solo parte de la ecuación

Brasil como gran potencia: Dilma y el poder de la nube

Brasil es un coloso global de +196 millones de habitantes, un PIB/GPD  de 2435 millardos (billions) de dolares, que es prácticamente igual al de UK y casi 2 veces el de España, y además con una sana tasa de desempleo del 5,5% (inferior a la de los US que ahora esta en el 6,7%)  

Las revelaciones de Snowden de septiembre pasado sobre el espionaje de la NSA de las comunicaciones de la presidenta Rousseff y de empresas vitales de la economía brasileña como Petrobras, provocaron un enfado generalizado no sólo contra la las autoridades de los US, sino contra empresas como Google y Facebook 

La reacción de Dilma Rousseff fue la creación de un proyecto de ley que obligará a cualquier empresa brasileña y extranjera que recopilara datos sobre ciudadanos brasileños, a guardarlos en data centers instalados físicamente en Brasil

Como reacción primera parece lógica, pero en 6 meses las iniciales impresiones de que había que hacer algo tajante contra la barra libre de acceso de la NSA pasaron a una evaluación más serena.. De modo que se empezó a comprender que localizar datos de brasileños en Brasil seria negativo para la propia economía brasileña!, algo que señaló la Camara Internacional de Comerció en una carta abierta a los miembros del Congreso en octubre del año pasado

La reciente aprobación del Marco Civil de Internet en el Congreso confirmando esta vez en forma de Ley que la Net Neutrality es un principio inviolable de la red, pero retirando la obligación de la localización de datos en Brasil demuestra primero la misión de potencia global que ya se atribuye Brasil y segundo, el inmenso poder económico que ya supone la nube 

Afortunadamente ni siquiera una potencia como Brasil puede permitirse el lujo de crear una isla de datos nacionales en la red, ya que esto crearía un MUY peligroso precedente de una red balkanizada, como dice Bloomberg, que impediría sobre todo a las PYMES brasileñas aprovechar las economías de escala de los centros de datos globales y deslocalizados

La aprobación previa ayer del Marco Civil en Brasil prohibiendo de manera determinante a los ISP que favorezcan determinados web/app sobre otras en el tráfico de la red (como lo que acabamos de ver en USA con Netflix y Comcast) coloca a Brasil en la liga de campeones de la libertad en la red junto a Chile, Holanda y Eslovenia

Como podeis ver, las grandes potencias se distinguen por que empiezan a tener esa visión global del mercado/innovación/comercio más allá de la visión miope/nacional/cortoplacista (Spain/pain)

Y de este modo Sudamerica se convirtió de nuevo (2º o tercera vez) en el destino natural de emigración de Europa...