Tuesday, January 28, 2025

Comprendiendo la IA: tokens cada vez más baratos (aquí esta la clave!)

 

Fijaos bien en este gráfico que publicó Elad Gil el pasado agosto: muestra y demuestra la dramática caída del precio de los tokens en los modelos de rendimiento similar al GPT-4 de OpenAI 

En un rápido vistazo se puede ver que el coste de procesar 2 millones de tokens paso de 180 dólares a 30 centavos en 24 meses!, lo que deja la ley de Moore como un principio exponencialmente lento 

En esencia, el coste de procesar tokens en un modelo como GPT-4 es hoy 600 veces más barato que hace 2 años. Añadiendo ahora el R1 de DeepSeek, su coste por millón de tokens es un 96% más barato que en modelos del mismo nivel como el o1 de OpenAI 

¿Se comprende ahora el nerviosismo (pánico es exagerado) de los inversores que han apostado (casi) todo por la IA?

Dentro y fuera de este sector, (casi) todo el mundo sabe que tarde o temprano se revelaría que la IA no es un producto sino una commodity a partir de la cual se podrán hacer cosas que si valdrán dinero al menos durante un tiempo, o sea lo que ha ocurrido siempre desde la Spinning jenny 

Lo siguiente no es difícil de imaginar : el procesamiento de tokens a precio de chupa chup significa que entraran a este mercado centenares de nuevas empresas (más concretamente micro-pymes) que pulverizaran tareas que hasta ahora eran costosas o al menos escasas para alguien 

Desde luego que hay otra interpretación inquietante como el el hecho de que las habilidades esas que llamábamos pomposamente creativas van camino del mercadillo (flea market) y los que tengan la habilidad de combinar piezas que no valen (casi) nada serán los que se lleven momentáneamente el gato al agua (¿hay algún arte que no sea recombinatorio?)




No comments: