Durante esta semana, un investigador de seguridad independiente advertía que Grok Build, la herramienta IA especializada en código de SpaceXAI, estaba subiendo los repositorios completos de sus usuarios a su nube. El revuelo fue tal que el propio Elon Musk tuvo que saltar a la palestra para anunciar que todos los datos subidos de esta forma serían borrados.

El ejemplo de Grok ha sido, sin lugar a dudas, el más burdo, pero el abuso por parte de los proveedores de modelos no es nuevo. Por ejemplo, Anthropic aprovechó el lanzamiento de Fable para anunciar que retendría durante 30 días todos los prompts y las salidas (outputs) de sus clientes por motivos de seguridad. Grandes empresas, como Microsoft, prohibieron a sus empleados usar Fable por este motivo.

Alex Karp, CEO de Palantir, en unas declaraciones de las que nos hicimos eco en La batalla por el control de los medios de producción, acusaba directamente a Anthropic y OpenAI de robar a sus propios clientes.

Karp ha encontrado un aliado inusual en Satya Nadella, CEO de Microsoft, quien ha escrito un post en X en el que ahonda en la misma idea: cuando contratas a un proveedor de IA, estás pagando dos veces: en dinero y en información.

La entrada de hoy es, precisamente, la traducción del post de Nadella. Si tenéis cinco minutos, os recomiendo leerlo: está lleno de buenos consejos. Consejos que, en mi humilde opinión, llevarán a las empresas a utilizar cada vez más modelos de código abierto para proteger su información.

Por otra parte, que Microsoft advierta sobre el peligro de usar modelos cerrados dice mucho de su posición competitiva. Sabe que ha perdido la carrera por la inteligencia y que su jugada es ser infraestructura. Bajo ese prisma, el mensaje de Nadella tiene mucho más sentido.

La paradoja inversa de la información, por Satya Nadella

En la era de la inteligencia, ¿cómo deberían las empresas proteger su propiedad intelectual?

El economista y premio Nobel Kenneth Arrow describió así un famoso dilema en el mercado de la información. “El valor de una pieza de información para el comprador no puede conocerse hasta que dispone de ella, pero, en ese momento, ya la ha adquirido de facto sin coste”. En la conocida como “paradoja de la información” de Arrow, el vendedor corre el riesgo de regalar lo que sabe para poder venderlo.

La IA crea el problema inverso. En la era de la IA, es el comprador quien corre el riesgo de regalar su conocimiento simplemente para poder utilizar lo que ha comprado.

En esencia, pagas por la inteligencia dos veces: primero con dinero y después con algo aún más valioso, el conocimiento propietario que debes revelar para que esa inteligencia resulte útil. Cuanto mejor quieres que funcione el modelo, más conocimiento tienes que proporcionarle.

Con el tiempo, la asimetría de información se vuelve cada vez mayor. El vendedor aprende más y más sobre ti a medida que utilizas lo que has comprado, mientras que tú apenas aprendes qué está aprendiendo el vendedor a cambio.

A esto es a lo que llamo la paradoja inversa de la información.

Las patentes resolvieron una parte de la paradoja de Arrow: permiten a un inventor divulgar una idea sin regalarla por completo. La paradoja inversa de la información necesita un equivalente.

Y eso requiere mucho más que protección de datos. Los modelos aprenden de los “residuos” que dejamos al usarlos: los prompts que escribimos, las herramientas que utilizan los agentes y, sobre todo, las correcciones que hacemos cuando el modelo se equivoca. Cada corrección se destila en conocimiento institucional. Es el tipo de conocimiento que un competidor nunca podría comprar y que se escapa de forma casi imperceptible: traza a traza, corrección a corrección, evaluación a evaluación.

Al consumir inteligencia, también estás creando inteligencia. Y esa inteligencia que creas debería pertenecerte. Es tu inteligencia particular, en el sentido de Hayek: el conocimiento del tiempo, del lugar y de las circunstancias que nadie más puede poseer. Es el conocimiento de cómo piensas, qué valoras y cómo defines el éxito.

Aunque la gran innovación que supone permitir a los proveedores de modelos entrenar con datos públicos bajo el principio de uso legítimo (fair use) es necesaria, me resulta irónico que el statu quo sea, a continuación, imponer fuertes restricciones a la destilación de modelos mientras se reservan el derecho a aprender del uso y de las interacciones de los clientes. Si el aprendizaje solo fluye en una dirección, el valor económico termina concentrándose en los propietarios de la infraestructura de aprendizaje, en lugar de en los creadores del conocimiento. Por eso es fundamental distribuir esa infraestructura de aprendizaje entre las empresas para que cada una pueda controlar su propio ciclo de aprendizaje.

Como dijo Alex Karp: “Lo que los clientes más técnicos quieren es controlar su capacidad de computación, sus modelos, su infraestructura de datos y su ventaja competitiva (alpha). Quieren saber que poseen los medios de producción y que estos no se están transfiriendo a otros”. El modelo actual provoca precisamente esa transferencia que tanto temen Karp y muchas empresas.

Por eso las empresas necesitan un auténtico perímetro de confianza que permita que su capital humano y su capital de tokens generen valor de forma acumulativa. Es el espacio donde los datos de la organización, sus trazas, evaluaciones, pesos ajustados y memoria evolucionan y mejoran en conjunto. Y debe ser un perímetro infranqueable: nada debería cruzarlo, ni siquiera los “residuos” generados por el uso de la inteligencia, sin consentimiento.

Las empresas exigirán el derecho a utilizar las salidas de los modelos para ajustar o entrenar sus propios modelos. Entiendo esto como el derecho de toda empresa a alinear los modelos con sus propias obligaciones de responsabilidad y gobierno corporativo.

En la era de la nube, las empresas acumulaban datos. En la era de la IA, acumulan aprendizaje. El perímetro de confianza debe evolucionar en consecuencia: ya no basta con proteger la información; hay que proteger los mecanismos mediante los cuales las organizaciones aprenden, se adaptan y hacen crecer su inteligencia. Para conseguirlo, toda empresa debería centrarse en cinco aspectos:

• Control. Crear evaluaciones (evals) propias, porque son las que definen qué significa “hacerlo bien” dentro de la organización. También conservar la propiedad de la memoria de la empresa, sus trazas, comentarios, decisiones, contexto institucional y el derecho a reutilizar las salidas de los modelos generadas a partir de sus propias tareas y consultas.

• Capacidad. Construir entornos de aprendizaje propietarios dentro del perímetro de la empresa para entrenar o ajustar modelos, de modo que estos aprendan a partir de flujos de trabajo reales sin exponer el conocimiento corporativo.

• Libertad de elección. Garantizar que la capa de orquestación esté desacoplada de cualquier modelo específico. Pregúntate: si desapareciera uno de los modelos que utilizas hoy, ¿seguirías siendo capaz de operar y optimizar tus evaluaciones con los demás modelos? ¿La experiencia acumulada por tu empresa seguiría siendo tuya aunque desapareciera un modelo generalista determinado?

• Coste. Al desacoplar la capa de orquestación, también puedes combinar contexto, modelos y tareas de la forma más eficiente y rentable posible, sin renunciar a la calidad.

• Aprendizaje acumulativo. Cuando reúnes estos cuatro elementos, creas un sistema de aprendizaje continuo que permite que las inversiones en IA incrementen progresivamente el valor de tu empresa.

En otras palabras, una empresa debería poder utilizar un modelo sin tener que renunciar al conocimiento que la hace única. Esa es la paradoja inversa de la información a la que debemos enfrentarnos.