La IA es la voz de su amo: sentencia contra Google Overviews

Un tribunal de Munich acaba de dictaminar que Google es directamente responsable de lo que Google Overviews afirma, lo que abre una inquietante puerta para futuras demandas de los perjudicados por los errores de los modelos de IA 

En contexto: Google overviews, lanzado en 2024, es un complemento de los servicios de busqueda que ofrece un pequeño resumen de la pregunta o cuestion de moderada complejidad que un usuario hace. Esto permite que en muchas ocasiones en vez de consultar el link que Google ofrece, los usuarios se conformen con este resumen que por lo visto es suficiente para sus demandas de información (algo de lo que se quejan amargamente muchos propietarios de webs , que temen el efecto cero visitas

Overviews utiliza el modelo Gemini de Google y aunque solo un pequeño porcentaje de las 14.000 millones (billions) de busquedas que Google procesa cada dia tienen forma de pregunta (el 8% segun algunas fuentes), estos resumenes creados con IA se ofrecen en el 40% de las busquedas , lo que arroja una cantidad nada insignificante 

Con estos datos en mente, el caso aleman que nos trae hoy es que dos empresas demandaron a Google por que su Overview calificaba a estas de practicas comerciales sospechosas o directamente de spam. Como era previsible los abogados de Google se agarraron a dos conocidas tácticas: 

primero que como todo servicio generado por un modelo LLM (como Gemini) este tiene errores (alucinaciones en la jerga IA) , y aunque no hay numeros "oficiales" de Google ni de nadie, algunos y recientes estudios apuntan a que la tasa de error es del 10% (o sea 90% de las veces aciertan, lo que no esta nada mal sino eres del 10% perjudicado) 

segundo, que los usuarios de Overviews son avisados por Google que el modelo puede producir afirmaciones erroneas (es una IA !), pero estos pueden ( y deben) comprobar en los links que se ofrecen si la informacion es cierta o una alucinación 

Ante el esto, el juez aleman que ha dictado sentencia en favor de los demandantes parece bastante avispado y no ha admitido que Google Overview sea un servicio equivalente a las busquedas en Google, lo que le hubiera permitido a Google ampararse en la limitada responsabilidad que tienen los buscadores en lo que se publica, ya que ellos solo hacen que este contenido sea más facil de encontrar 

Ademas la sentencia contiene alguna perla mas que interesante y seguramente provechosa ya que afirma que la IA genera sus propias afirmaciones que no necesariamente aparecen en los links que se ofrecen como fuente, lo que implica que el operador (en este caso Google) es responsable de lo que su IA dice (His master voice!) 

Sinceramente es dificil que esta sentencia NO se utilice como jurisprudencia para futuros casos de algunos realmente perjudicados y otros listillos que identifiquen un hueco por sacarle algunos dolares a estas empresas de IA por errores más semejantes a erratas tipograficas que a otra cosa