Toda esta sobre-información sobre la IA hace realmente dificil analizar con algo de serenidad en que nivel realmente de innovación estamos en la IA, a lo que hay que añadir este tira y afloja de unos que meten miedo y otros que dicen que no es para tanto y que hemos superado fases mucho más complejas (en medio de eso me situo yo sin fanatismo)
No quiero repetirme ni argumentar aquello de "te lo dije" o incluso "a quien le puede sorprender" , pero si hay algo que cada dia detecto e intuyo de mis propias pesquisas (leo mucho realmente): hay una enorme, no se si creciente, brecha (gap) entre lo que la IA puede hacer y lo que la gente,incluso los que opinan, creen que realmente esta haciendo
Al respecto me quedé (algo) perplejo el otro dia cuando leia a Ethan Mollick decir que en los dos últimos años los agentes de IA pasaron de poder realizar 4 minutos de trabajo sin ninguna supervisión a 17 horas, y todo ello en un contexto social donde la principal discusión es si la IA nos va mandar a todos al desempleo o si los nenes usan bots para hacer los trabajos del cole..lo que me hace sentir como el capital Willard en Apocalypse Now (o sea, perplejo)
El disparador de este reflexión es la casi-sorpresa de que oh God! los bancos en US han detectado accesos no autorizados de agentes IA a cuentas bancarias!! y que algunos Cybercarteles llevan tiempo realizando un nuevo tipo de ataque coordinado a bancos y pasarelas de pago en Latam, accediendo a datos como passwords, API keys e incluso mails de clientes
El hackeo de datos que permitan mangar dinero (incluso pequeñas cantidades a lo largo del tiempo) no es nada nuevo y los propios bancos hace años (si, años) que te previenen con alarmantes textos y graficos para que te tomes en serio tu cyberseguridad (con distinto grado de éxito claro), pero lo que es novedoso es que los malos usan ahora sistemas de agentes IA que analizan, trocean y realizan la tarea de robarte en tus cibernarices
Lo que más perplejidad produce es que las herramientas que usan estos grupos organizados no son modelos de vanguardia (como Fable o Mythos) de esos que dejan usar solo a unos cuantas entidades fiables, sino modelos normalitos de uso (casi) común como Kimi, Claude Sonnet, Claude Opus y Grok
O sea que que con la capacidad instalada y disponible tenemos de sobra para hacer mucho más y como siempre los alumnos aventajados suelen ser los bandidos ya que no estos no pierden el tiempo leyendo controversias en hilos de reddit sino investigando cosas tan pragmaticas como operar en una plataforma abierta como PentAGI un enjambre (swarm) de agentes IA que les ahorran muchas horas de trabajo para alcanzar los mismos objetivos o sea robar
Es cierto que en la ya larga historia de las transacciones electronicas siempre se operó del mismo modo: se descubre vulnerabilidad y se tapa con empresas especializadas a la espera del nuevo ataque y cambiando las politicas de seguridad de los clientes (si te vacian la cuenta te lo cubro yo), asumiendo que cada nueva modalidad de ataque es más sofisticado y original (de potente no hablamos) y que les cuesta dinero a las entidades bancarias ..
PS_ Mr Altman , Mr Amodei es mejor que redirijan sus discursos a lo que su IA ya puede hacer en lo que actualmente tenemos y somos y se olviden de escenarios góticos del futuro....
No comments:
Post a Comment