El CEO de Microsoft advierte a las empresas que usan IA: “Al consumir inteligencia, la creas”, pero no te pertenece

El director ejecutivo de Microsoft, Satya Nadella, ha advertido a las empresas que utilizan modelos de inteligencia artificial (IA) de la necesidad de crear sus propios entornos de aprendizaje en la nube para que sus datos sigan siendo de ellas y no acaben en manos de las firmas propietarias de esos servicios que, a la postre, pueden aprender de ellos y utilizarlos.

Nadella ha abordado lo que ha llamado “la paradoja de la información inversa”, es decir, la idea de que en la era de la inteligencia artificial el comprador de esta tecnología “corre el riesgo de renunciar al conocimiento con tal de poder utilizar lo que ha comprado”, como recoge en una publicación en su blog personal.

Con ello, el directivo se refiere al hecho de que el usuario de un modelo de inteligencia artificial paga por utilizar esta herramienta, pero hace un segundo pago con la información que le suministra para obtener respuestas. Esa información queda en la infraestructura del proveedor de IA, que puede acceder a ella a través del proceso de corrección (destilación), con el que mejoran los modelos.

Dicho más llanamente, una empresa que contrate el uso, por ejemplo, de ChatGPT o de Claude está pagando por acceder a la infraestructura de OpenAI y Anthropic, respectivamente. Y para sacarle utilidad, necesita introducir en la IA información especializada de la organización.

Cuanta más información se le introduzca, más útil será la herramienta para la empresa, ya que habrá aprendido de sus procesos. Pero precisamente esto es lo que pone en desventaja al usuario de la IA, porque, como afirma Nadella, “al consumir inteligencia, la creas”.

Esa información que provee la empresa no se queda en un limbo, sino que permanece en la infraestructura de la firma de IA, y los dueños de esta tecnología aprenden cada vez más de sus clientes a través de la destilación --del proceso de extraer conocimiento de los resultados que ofrecen los modelos--.

“Es el tipo de conocimiento que un competidor jamás podría comprar, y que se filtra casi imperceptiblemente: rastro a rastro, corrección a corrección, evaluación a evaluación”, apunta el director ejecutivo de Microsoft.

Además, incide en que los proveedores posteriormente imponen “condiciones restrictivas a la extracción de datos”, que dificultan o impiden que los usuarios puedan acceder a esa inteligencia que se ha creado con sus datos.

Ante esta situación, el directivo considera que las empresas deben exigir “el derecho a utilizar los resultados de los modelos para ajustar y/o entrenar sus propios modelos”, y ve la nube como la infraestructura en la que las empresas pueden crear sus propios entornos de aprendizaje, para entrenar sus propios modelos y bajo criterios de privacidad.

Aunque no lo menciona en su publicación, Nadella es el director ejecutivo de Microsoft y una parte importante del negocio de esta firma tecnológica es la nube con Azure. Lo que hace más significativo este cambio de visión en el uso de los modelos de IA y la información, y que respalda su alegato de que “una empresa debería poder utilizar un modelo sin renunciar al conocimiento que lo hace único”.