Creo que a (casi) todos nos quedaron fijadas aquellas imágenes de Minority Report la novela de Philip Dick que Spielberg se atrevió a llevar al cine hace ahora 15 años!
Esta distopía de una division pre-crimen nos situaba no ante un escenario sino frente a un debate moral que algun dia llegaría
Este articulo de Wired sobre la utilización de un programa de "policía predictiva" en el departamento de policia de Los Angeles (LAPD) me devolvió a la realidad actual del uso de sistemas que en base a (datos) pasados delictivos genera un ranking de probabilidades de crimen en una zona o asociados a una persona concreta
Una de las funciones de toda policia en un estado democratico no es solo reprimir el crimen sino prevenirlo, algo que siempre se asoció a la intuición de los viejos policias o en otras palabras al Know How de estos profesionales de la seguridad ciudadana
La cuestión es que efectivamente ya estamos en una etapa donde los datos que estuvieron siempre disponibles ahora pueden hablar, mediante herramientas de interpretación que llamamos algoritmos
El programa del LAPD llamado operacion Laser, y que lleva en vigor desde hace 7 años, utiliza un sistema de la empresa Palantir que en base al pasado delictivo de una persona le otorga más o menos puntos en una documento llamado Chronic Offender Bulletin, literalmente una lista de las personas con más posibilidades de cometer delitos
El problema no es el sistema sino como se confecciona, en este caso que se considera dato relevante, pero también si el pasado de una persona (que al fin y al cabo son datos evaluables) debe generar sospecha siempre
A la distopía no nos conducen los datos o la AI, sino el principio fundamental detras de todo sistema. En Europa hay una interpretación, más o menos general, de que una persona se puede regenerar de su pasado y ser un ciudadano libre de toda sospecha.
El problema con esta visión tan europea es la evidencia (hasta ahora) de que los sistemas predictivos de seguridad funcionan mejor que los convencionales, basados en la intuición humana, y allí donde se aplican baja la tasa de delitos.....
Nuevamente la cuestión es...a que coste...ya que los movimientos de derechos civiles cuestionan que el perfil racial de una persona o el barrio donde vive le sitúa siempre en la puerta de entrada del Boletín de delitos, lo que tiende a retroalimentar el sistema
Como veis no es una cuestión sencilla que pueda resolver un programador o uno de esos politicos de viejo/nuevo cuño de soluciones express (todo es fácil), ya que la tecnología solo amplifica el paradigma social y muy pocas veces lo crea
No comments:
Post a Comment