La IA es la voz de su amo: sentencia contra Google Overviews

Un tribunal de Munich acaba de dictaminar que Google es directamente responsable de lo que Google Overviews afirma, lo que abre una inquietante puerta para futuras demandas de los perjudicados por los errores de los modelos de IA 

En contexto: Google overviews, lanzado en 2024, es un complemento de los servicios de busqueda que ofrece un pequeño resumen de la pregunta o cuestion de moderada complejidad que un usuario hace. Esto permite que en muchas ocasiones en vez de consultar el link que Google ofrece, los usuarios se conformen con este resumen que por lo visto es suficiente para sus demandas de información (algo de lo que se quejan amargamente muchos propietarios de webs , que temen el efecto cero visitas

Overviews utiliza el modelo Gemini de Google y aunque solo un pequeño porcentaje de las 14.000 millones (billions) de busquedas que Google procesa cada dia tienen forma de pregunta (el 8% segun algunas fuentes), estos resumenes creados con IA se ofrecen en el 40% de las busquedas , lo que arroja una cantidad nada insignificante 

Con estos datos en mente, el caso aleman que nos trae hoy es que dos empresas demandaron a Google por que su Overview calificaba a estas de practicas comerciales sospechosas o directamente de spam. Como era previsible los abogados de Google se agarraron a dos conocidas tácticas: 

primero que como todo servicio generado por un modelo LLM (como Gemini) este tiene errores (alucinaciones en la jerga IA) , y aunque no hay numeros "oficiales" de Google ni de nadie, algunos y recientes estudios apuntan a que la tasa de error es del 10% (o sea 90% de las veces aciertan, lo que no esta nada mal sino eres del 10% perjudicado) 

segundo, que los usuarios de Overviews son avisados por Google que el modelo puede producir afirmaciones erroneas (es una IA !), pero estos pueden ( y deben) comprobar en los links que se ofrecen si la informacion es cierta o una alucinación 

Ante el esto, el juez aleman que ha dictado sentencia en favor de los demandantes parece bastante avispado y no ha admitido que Google Overview sea un servicio equivalente a las busquedas en Google, lo que le hubiera permitido a Google ampararse en la limitada responsabilidad que tienen los buscadores en lo que se publica, ya que ellos solo hacen que este contenido sea más facil de encontrar 

Ademas la sentencia contiene alguna perla mas que interesante y seguramente provechosa ya que afirma que la IA genera sus propias afirmaciones que no necesariamente aparecen en los links que se ofrecen como fuente, lo que implica que el operador (en este caso Google) es responsable de lo que su IA dice (His master voice!) 

Sinceramente es dificil que esta sentencia NO se utilice como jurisprudencia para futuros casos de algunos realmente perjudicados y otros listillos que identifiquen un hueco por sacarle algunos dolares a estas empresas de IA por errores más semejantes a erratas tipograficas que a otra cosa

Grabar mientras conduces también es ilegal: UK acaba con el vacio legal

De entre las muchas cosas que NO me gustan nada del Brexit, una es sin duda que vamos a perder (en el resto de Europa) esos valores británicos (históricos además) de sentido común y determinación que tienen a la hora de limitar libertades personales  

Un ejemplo, los conductores británicos llevan 20 años escapando de las multas por usar el móvil mientras conducen, con el argumento de que están grabando video o haciendo fotos pero no están comunicando con el dispositivo 

Este aparente disparate se basa en que la última ley que regulaba el uso de aparatos electrónicos en la conducción data de 1988, cuando los móviles eran un nicho para servicios de seguridad, ejecutivos empresariales y políticos  

Ahora y gracias a la apelación ganada por un ciudadano que fue mualtado a principios de este año en las afueras de Londres por usar el móvil mientras grababa un accidente, la Justicia britanica ha taponado con una nueva legislación este vacio legal que ha tenido además consecuencias que van más allá de la seguridad en el tráfico

La costumbre social de grabar los accidentes de coche convirtiéndolos en espectáculo viral, más que prevenir a la gente corriente frente a los delincuentes viales, lo que ha generado es un morbo que destroza a las familias de estas personas accidentadas y en muchos casos fallecidas    

Como reconoce el propio ministro de transportes británico, el derecho a la seguridad prevalece sobre la necesidad de comunicar incluso cuando se conduce, a lo que yo añadiría el derecho a no difundir accidentes como parte del derecho a la privacidad de las victimas

Finalmente nos dirigimos a legislación de cero tolerancia frente al uso de cualquier dispositivo que disminuya la atención de una persona que conduce una maquina a 27 metros por segundo