El síndrome Zelig y la adulación en modelos LLM

Zelig es algo más que una buena comedia de Woody Allen, el film de 1983 (era pre-Internet!) adopta el formato de un documental para contar la historia de Leonard Zelig un tipo afectado profundamente por el síndrome de la adulación, de modo que tiende a convertirse, incluso físicamente, en la persona con la que habla para no contrariarle 

Y en Zelig pensaba al ver alguno de los problemas que están empezando a aflorar con el uso masivo de los modelos LLM : la adulación (sycophancy) que hacen estos bots ante las preguntas y sugerencias que les hacemos

Lo de ¡excelente pregunta! es un tópico de los bots de IA que suelo usar, aunque sinceramente yo no este tan convencido de la genialidad u originalidad de mis preguntas., ya que la mayoría de las veces son atajos para ir al dato o concepto que quiero recordar (un offloading de mi propia memoria mental)

El problema es que cuando una tecnología se vuelve masiva empiezas a despertar a los nichos de usuarios que recorren todo el espectro cultural desde el perro viejo (escéptico) al genio que todavía nadie ha identificado, algo parecido al caso reciente del matemático canadiense que inicialmente creyó haber descubierto una formula matemática original que tumbaría todo Internet tras una larguísima sesion con un modelo de IA 

Claro si seguimos la cadena hacia abajo nos volvemos a encontrar con el espinoso pero real problema de las personas que previamente a usar la IA tenia algún tipo de enfermedad mental, de modo que el uso reiterado y evidentemente no critico de estos modelos puede conducirle a eso que ya llaman espiral del delirio donde la información obtenida refuerza una y otra vez los pre-juicios del usuario 

Sin demagogia , estos casos y estos efectos colaterales siempre son minoritarios, pero tal como nos ha enseñado la Internet previa a esta IA, la long tail de efectos perversos es larga y la mayoría tienen abogados que te demandan 

Tampoco es que la IA actual haya inventado esta espiral del delirio ni la sobre adulación ante tonterías o disparates en formato prompt, ya que hasta donde yo recuerde es una vieja táctica de venta de los minoristas (retailers) , adular hasta el esperpento al cliente (una versión caricaturesca del cliente siempre tiene razón) 

Y es verdad que aunque se le puedan pedir contramedidas ante esto a las empresas de IA, la única garantía (nunca al 100%) es el pensamiento critico como punto de partida y la constante consulta externa fuera del bot para comprobar que no me conduce al dislate