Hablando solo de eficiencia energética : modelos LLM vs humanos

Sam Altman, el CEO de OpenAI, va camino de convertirse en alguien/algo más popular que los modelos que desarrolla su empresa, algo que no se realmente si es su objetivo primordial, aun asumiendo que a estas alturas hay retroalimentación: uno vende al otro (y viceversa?)

Hay que ver que controversia-burbuja que ha generado sus descontextualizadas declaraciones del pasado viernes en la India, cuando Altman dijo estar cansado de las críticas sobre el consumo de energía de sus modelos de IA (y estimo que todos los demás) y lo poco riguroso que es olvidarse que para que un adulto no alucine en responder una pregunta debe ser alimentado y entrenado durante 20 años! (que optimista!) 

Altman dijo que la pregunta-critica valida seria preguntarle a un modelo cuánta energía consume un modelo una vez que está entrenado versus un ser humano. Así que lo hice, y Gemini me dijo esto: (incluye fine-tuning mio)

Un cerebro consume en total entre 12 y 20 vatios , pero eso incluye todo, desde controlar que el corazón lata a escribir en este blog !. Nuestro cerebro utiliza una cantidad de energía casi residual para contestar una pregunta (menos del 5%), lo que le hace literalmente incomparable con el consumo de las neuronas electrónicas de una GPU como las de Nvidia 

Cuando preguntamos a alguien algo, su cerebro consume alrededor de 0,0002 vatios/hora, y con esa energía no iluminas ni una fracción de un segundo una lámpara LED , por contra un modelo estándar como ChatGPT consume unos 0,3 watios/hora, energia que nos daria para iluminar 2 minutos con esa misma bombilla LED 

Las comparaciones son casi siempre odiosas (viejo dicho latino) pero esta más, porque un humano consume en efecto un mínimo de 14.000 millones de kilocalorias durante 20 años (equivalente a unos 17.000 kwh en consumo eléctrico) para mantener vivo y activo (con variaciones claro), pero es que esto sólo tiene sentido como medida de productividad en la industria alimentaria, ya que si no gastamos recursos en mantenernos vivos y útiles, ¿para que diantres queremos la IA?

La IA genera más rechazo del que debería, en eso estoy de acuerdo con Altman, pero no por lo que hace o puede llegar a realizar, sino por discursos alucinatorios como este, que mezclan demagogia con ciencia, y levantando la nube de polvo del miedo para vender una tecnología como jamás vimos antes (ni veremos)