Monday, June 11, 2018

Google y el Proyecto Maven: Don´t be evil y la polisemia


Los desarrollos tecnológicos solo se convierten en innovaciones cuando se aplican a algo. El problema que tiene un avance tan colosal como la Inteligencia Artificial (IA) es que es (casi) imposible limitar su alcance y/o quien la usa

A propósito de este imperativo veamos el lío reciente que se armó en Google. La compañía del holding Alphabet firmó un acuerdo con el Pentagono dentro del proyecto Maven para que éste usara sus sistemas de IA para reconocimiento visual de objetivos en drones

El problema surgió cuando se conocieron los detalles de este acuerdo y una parte de sus empleados  firmaron una petición (unos 3 mil de los 88 mil que tiene Alphabet) para detener este contrato y NO usar la tecnologia de Google para "el negocio de la guerra"

El resultado es que el CEO de Google (el icínico Sundar Pichai) decidió NO renovar el contrato cuando este expire ya que el asunto se había convertido en un problema de PR ya que parecia chocar con el principio Don´t be evil (literalmente no seas malo) que ha acompañado la actuación de Google desde el principio

Con todo, el temor mayor no es que el ejercito de los US use sistemas avanzados de AI sino que en algún momento en el futuro cercano alguien decida amortizar el operador del drone, y estos tomen decisiones autónomas que implican identificar a alguien (se supone que malo) y eliminarlo....

La cuestión básica aquí no es Google ni su AI ni el Pentagono, sino que se entiende por Don´t be evil en el resto del mundo. 

Es decir, me parece del todo imposible que una empresa china o rusa etc NO permita a su gobierno usar sus sistemas en el ejercito, de modo que o el mantra de NO hacer el mal es universal o se queda como una declaración contra el cambio climático firmada por un pueblo de 2000 habitantes 

Hay que recordar que la propia Internet partió de un programa militar (DARPANET) o el GPS, o que muchos nos hemos beneficiando de estos avances en defensa para localizar nuestra mascota o llamar por teléfono a  coste cero (Silicon Valley no se puede entender sin las inversiones en industria aeronáutica en los años 60´s)

Es imposible que una empresa norteamericana le niegue sus innovaciones al ejercito, igual que NO se las puede negar al sector sanitario, o al educativo. Lo que se discute es el uso ético de la tecnologia, algo que no se soluciona renovando o no un programa  

No comments: