El mes pasado saltó al mercado de la atención mediática la noticia de que un grupo de unos 5000 votantes en unas primarias en New Hampshire (US) había recibido una robollamada con la voz del presidente Biden pidiendo que NO acudieran a votar
Ni las robo llamadas ni las suplantación de la voz de alguien usando IA eran una gran primicia, pero si el hecho de que alguien por vez primera usase estas herramientas para influir en unas elecciones, algo por por otra parte sabíamos que alguna vez ocurriría
Pero lo que me parece más digno de atención es lo que ha desvelado el consultor político detrás de esta llamada (Steve Kramer) de como lo hizo y cuánto costó hacerlo porque ahí están las claves de la imparable ola que viene con o sin legislación que prohíba estas prácticas de suplantación (deepfake) rápidas, efímeras y masivas (los 3 conceptos son relevantes!)
Según Kramer el solo fue capaz de contratar a un artista callejero en New Orleans para que grababa la demo de voz con un guión que Kramer había escrito , por 150 dólares en mano, y convertirlo en un audio para que Eleven Labs recrease ese audio como la voz de Biden en 20 minutos y por un dólar! y posteriormente una empresa de Texas (Life Corp) especializada en llamadas robotizadas pusiera en marcha las llamadas , y todo ello por 500 dolares
Resultado? pues que con apenas 500 dólares se obtiene un valor en atención mediática y cambios regulatorios que valen 10 veces más ! , según estima el propio Steve Kramer, siendo ese el quid de la cuestión de porqué esto será una normalidad
Se puede argumentar que una vez que alguien por primera vez hace un deepfake de un político, se acaba con esa supuesta estrategia ya sea por que lo prohiben las nuevas leyes ad hoc o por que lo hacen tantos que nadie ya presta atención a estas suplantaciones y probablemente esto sea cierto pero....
Como el coste es tan pequeño y la posibilidad del engaño puede generar tanto benéfico (en esencia el principio del spam), esto es demasiado tentador como para no intentarlo y luego desaparecer del foco de atención
En resumen, tendremos que acostumbrarnos a no fiarnos por defecto de nada/nadie que venga a través de una red o incluso de un medio de comunicaciòn, lo que a mi juicio no dará lugar a una sociedad de escépticos sino a una ciudadanía con distancia crítica, que en esencia es lo que siempre se persiguió como objetivo al menos en sociedades libres
