Las barreras de seguridad son las que impiden que los modelos de inteligencia artificial (IA) faciliten las acciones dañinas, como la exfiltración de datos de los usuarios, algo que Copilot acabó permitiendo al facilitar los parámetros que eludían el consentimiento.

Un fallo crítico presente en Copilo ha hecho que esta IA acabara abriendo la puerta a su propio ‘hackeo’, como ha descubierto la empresa de seguridad Varonis. Su intención era crear una vulneabilidad que facilitara la extracción de datos de usuarios cuando estos pincharan un enlace.

Esta intención chocaba con las medidas de seguridad...