Humanos al mando de la IA: ¿de verdad eso nos tranquiliza?

Desde luego que el producto más vendido de la IA hasta ahora es el miedo a la IA no las realizaciones que hace o podría llegar a hacer, y sobre esto hay un sorprendente consenso a ambos lados del espectro ideológico lo que salpica la base social de las personas anónimas como nosotros 

La última prueba nos llega, como es norma en estos casos, de la Declaración por una IA Pro-humana firmada por +90 líderes políticos, sindicales y académicos de los US más algún que otro empresario estrella como Branson (el de Virgin) concretada en un documento breve de 5 puntos con los que (casi) todos podríamos estar de acuerdo (protección a la infancia, supervisión de modelos de IA más avanzados, identificación de que es generado por IA etc etc)

Pero haciendo uso (responsable) de mi pensamiento criticó, sinceramente disiento que el punto principal para una IA que nos ayude y nos permita más logros sea poner la gente al mando!. ¿De verdad alguien con algo de perspectiva histórica se queda tranquilo dejando que los humanos y sus pasiones gobiernen la IA?

Hace casi 300 años David Hume afirmó sin demasiados rodeos que la razón siempre es (y debería) ser esclava de la pasión, y por eso nos hemos dotado de sistemas normativos y de tecnología que limita (algo) nuestras acciones y decisiones y por eso estamos donde estamos y tampoco estamos tan mal !

¿Realmente hay alguien que esté persiguiendo una IA que nos reemplace primero y luego nos minimice?Me parece que es sobrevalorar lo que un puñado de empresas está haciendo y donde pueden llegar, ya que como hemos visto repetidas veces, cualquier gobierno apaga o enciende el sistema y aquí aparentemente no pasa nada! 

Hay que recordar que una de las razones por las que nos dotamos de tecnología ha sido siempre para revertir las limitaciones y errores humanos y no al revés! y por otra parte, cuando hemos puesto a un visionario (humano) al frente de un desarrollo tecnológico casi acaba con nosotros

Aquí nadie va por libre pero la IA tampoco! por eso, poner el carro delante de los bueyes (ox) proporciona buena reputación a algunos, da cierta tranquilidad a otros cuantos, pero deja intacto el miedo como motor de reacción ante lo que viene, incluso cuando NADIE puede preverlo