Los algoritmos son uno de esos procesos que han saltado del sector tecnologico a la vida cotidiana, sin que muchos siquiera sepan ni que son ni como se hacen, lo que logicamente genera incertidumbre y temor
Cuando escribia mi último libro Sin Atajos: mitos tecnologicos y realidades sociales le dedique un capitulo a los algoritmos que me permitió estudiar el como y porqué de ests libros de instrucciones que rigen una parte creciente de nuestra vida
Em esencia, un algoritmo es eso un código de instrucciones para cualquier sistema (una receta de cocina se puede considerar un algoritmo) y en consecuencia alguien tiene que escribir esas ordenes, lo que logicamente implica que el algoritmo tiene el sesgo cultural del que los desarrolla
Esto nunca fue un problema hasta que los algoritmos empezaron a ser empleados en decisiones que afectan mucho a la vida de las personas como conseguir un crádito, ser contratado en una empresa o ser condenado o declarado inocente en un juicio...
Precisamente el uso generalizado de algoritmos se debió a que como libros de instrucciones son inmunes a todo lo que nos afecta como humanos a la hora de tomar una decision (desde los sentimientos, al grado de cansancio que tenemos )
Pero este salto de los algoritmos del complejo mundo tech al público escruitinio provocó que los resultados y el impacto social de estos fuera puesto en cuestión por grupos de derechos civiles como como la Liga de la Justicia Algoritmica en los US, la organización que en 2019 señaló el supuesto sesgo racial del Sistema de Reconocimiento facial de Amazon
Como ya hay controversia social y las empresas que emplean algoritmos lo último que desean es que cualquier husmee en sus procesos internos con la excusa del analisis de estos, comienza a abrirse un nicho de mercado para los auditores de algoritmos , entendido como empresas y profesionales que analizan y redactan un informe sobre el funcionamiento de los algoritmos de una organización
En los US ya hay un ramillete siempre creciente de unas 20 firmas que auditan algoritmos, muchas de ellas start ups, cada una con su propia metodogia lo que no siempre conduce a unos principios más éticos en el uso de algoritmos sino a respaldar campañas de relaciones públicas de las compañias auditadas
Quiza estemos a las puertas de una regulación que establezca (al menos) reglas comunes para los auditores de algoritmos, algo que sin ser solucion definitiva, ya que los algoritmos cambian cuando los enfrentamos a casos reales, si clarifica los limites de actuacion de este nuevo sector de las Auditoras de Algoritmos
No comments:
Post a Comment