Satya Nadella, CEO de Microsoft, ha expresado su preocupación por cómo las empresas están cediendo conocimiento valioso al usar servicios de inteligencia artificial. Según Nadella, las organizaciones pagan doble: con dinero y con información confidencial. Ha acuñado el término 'Paradoja Inversa de la Información' para describir este fenómeno, donde el comprador de servicios de IA corre el riesgo de entregar conocimiento institucional sin un retorno equitativo.
Satya Nadella, el CEO de Microsoft, ha utilizado Twitter para expresar una preocupación significativa. A través de un mensaje, Nadella compartió lo que le inquieta: en la era de la IA, donde la información es poder, no le agrada que otros se beneficien de los datos de las empresas. Nadella hizo referencia a la "paradoja del mercado de la información" del economista Kenneth Arrow, quien señaló que el comprador no conoce el valor de la información hasta que la posee, pero para entonces ya la ha adquirido, en efecto, sin costo alguno.
Según la formulación de Arrow, para que un vendedor convenza a un comprador del valor de la información, debe revelar lo suficiente como para generar interés. El problema surge cuando el comprador ya sabe tanto que no necesita pagar por esa información. Para Nadella, en la era de la IA, la situación se invierte, ya que es el comprador de los servicios de IA quien corre el riesgo de ceder conocimiento institucional valioso simplemente por usar las herramientas de inteligencia artificial.
Para Nadella, las empresas están pagando dos veces. "Una con dinero, pero otra con algo aún más valioso: el conocimiento propio y confidencial que debes revelar para que esa inteligencia sea útil." El CEO de Microsoft explica que "cuanto mejor quieras que rinda el modelo, con más conocimiento de ese tipo tendrás que alimentarlo". Este es precisamente el problema que Nadella ha denominado la 'Paradoja Inversa de la Información'.
Siguiendo el razonamiento de Nadella, a medida que una empresa cede más información a la dueña del modelo de inteligencia artificial, la asimetría entre ambas partes se vuelve cada vez más pronunciada. El motivo es que el vendedor aprende más sobre la empresa a medida que se usa lo que se compró, mientras que el comprador aprende muy poco sobre lo que el vendedor está obteniendo a cambio. Nadella sugiere que, de la misma manera que las patentes de propiedad intelectual resuelven un aspecto de la paradoja de Arrow al permitir que el inventor revele una idea sin regalarla, la Paradoja Inversa de la Información necesitaría un marco legal propio que proteja a las empresas que adquieren servicios de IA.
¿Cómo se lograría esto? Nadella señala que los modelos aprenden de los "prompts" que escriben las personas, de las herramientas de los agentes y, sobre todo, de las correcciones que los usuarios realizan cuando un modelo se equivoca. Nadella va más allá, afirmando que "cuando consumes inteligencia, estás creando inteligencia, y lo que creas debería pertenecerte. Esta es tu inteligencia particular, el conocimiento del tiempo, el lugar y la circunstancia, algo que nadie más puede poseer". Este mensaje, aunque irónico, es una reflexión útil y sensata: "si el aprendizaje fluye en una sola dirección, el valor económico converge hacia los propietarios de la infraestructura de aprendizaje en lugar de hacia los creadores del conocimiento". Por lo tanto, según Nadella, "es imperativo que distribuyamos la infraestructura de aprendizaje para poder controlar ese bucle de aprendizaje".
En resumen, Nadella desarrolla la idea de que la verdadera ventaja competitiva de la IA en el entorno empresarial no reside en elegir el mejor modelo, sino en ser dueño del ciclo de aprendizaje del mismo. Es decir, si Microsoft 'alquila' Claude o ChatGPT, y luego los usuarios de Microsoft entrenan ese modelo externo, ese conocimiento debería permanecer en Microsoft y no fluir hacia Anthropic y OpenAI, al menos, no de forma gratuita.
Esto, por supuesto, beneficiaría a Azure, la nube de Microsoft. Si bien los modelos pertenecen a otras empresas, si los usuarios acceden a ellos a través de la nube de Microsoft, esta debería retener toda esa información valiosa, incluyendo las correcciones que se hagan a los modelos utilizados gracias a Azure. "Si el aprendizaje fluye en una sola dirección, el valor económico converge hacia los propietarios de la infraestructura de aprendizaje en lugar de hacia los creadores del conocimiento".
Además, en su extenso mensaje, el CEO de Microsoft propone cinco puntos para asegurar los beneficios de la empresa. Si en la era de la nube las empresas acumulaban datos, en la de la IA acumulan aprendizaje, y ese aprendizaje no debería escapar si se siguen los siguientes consejos:
- Control: Crear evaluaciones privadas, retener la propiedad de la memoria, comentarios y contexto institucional de la empresa.
- Capacidad: Construir entornos de aprendizaje patentados dentro de los límites de un servidor propio para entrenar o ajustar modelos sin exponer el conocimiento de la empresa.
- Elección: Desacoplar esto de cualquier modelo individual y poder adaptarse a cualquier modelo de IA.
- Coste: Gracias a esa decisión, se puede reunir el contexto, modelos y tareas eficientes y rentables sin sacrificar calidad.
- Capitalización: La unión de los cuatro elementos anteriores para crear un bucle de aprendizaje continuo que permita que los inversores en IA multipliquen el valor de la empresa.
Finalmente, Nadella también busca que no se compita en la elección de modelos. Modelos como Claude, GPT y Gemini ya son lo suficientemente buenos, por lo que las empresas que no tienen modelos equivalentes deben competir para obtener todo ese conocimiento de los bucles de aprendizaje, asegurando que no escape de sus organizaciones y que, específicamente, se construyan en Azure. Otros tienen los modelos; Microsoft, Amazon y Google tienen los servidores.
Sin embargo, no todos están de acuerdo. Tanto OpenAI como Anthropic aseguran que sus flujos de trabajo y actualizaciones no dependen tanto de esos bucles, sino de otras cuestiones para hacer que los modelos de frontera sigan evolucionando para clientes que no son grandes corporaciones como Microsoft. Los bucles de aprendizaje pueden funcionar si se tiene Azure listo para proporcionar el servicio, ya que al cliente le da igual qué modelo se use porque siempre habrá uno funcionando, pero no todas las empresas tienen esa capacidad de computación. No obstante, esto no invalida que lo que expone Nadella sea una preocupación fundamental en una industria donde la IA ya es un producto básico y las grandes empresas que contratan los modelos deben empezar a considerar si pueden proteger el conocimiento que sus usuarios están generando o si ya están cediéndolo todo a OpenAI, Anthropic y otras.
