La caída del imperio de la inteligencia artificial

Mientras la competencia tecnocrática-autoritara por desarrollar tecnologías de inteligencia artificial avanzada continúa a toda velocidad, la influencia de Silicon Valley en las agendas regulatorias ya rivaliza – e incluso supera – a la de muchos estados. Sin embargo, entre las ambiciones de las superpotencias globales y los gigantes de la IA, Europa tiene la oportunidad de buscar algo mejor. Entrevista con la galardonada periodista y escritora, Karen Hao.

Alessio Giussani: Se han utilizado muchas metáforas para describir el modelo actual de desarrollo de la inteligencia artificial, como un papagayo o un espejo. ¿Por qué eligió precisamente la metáfora del imperio?

Karen Hao: Creo que estas metáforas son todas extremadamente útiles. Me centro en la de “imperio” porque no solo analizo la herramienta técnica en sí y lo que sucede cuando se aplica en la sociedad, sino también la producción de la tecnología y los actores que acumulan un poder económico y político extraordinario para su creación.

Hay cuatro razones principales por las que llamo a este sistema imperio. Primero, estas empresas demandan recursos que no les pertenecen: los datos de las personas, así como el trabajo de escritores y creadores. En segundo lugar, explotan de manera extraordinaria a la fuerza laboral, tanto a los empleados que se aprovechan en los procesos de producción y en las cadenas de suministro de tecnologías, como a aquellos cuyos derechos laborales se ven afectados durante la implementación de estas tecnologías.

El tercer aspecto es el control de la información. Una de las principales características de la expansión de los imperios es la capacidad de filtrar toda producción de conocimiento e información a través de sus objetivos imperiales, y eso exactamente hacen las empresas de inteligencia artificial. Controlan y censuran la ciencia financiando la mayor parte de la investigación en IA y construyen tecnologías de información que aspiran a convertirse en portales centrales, a través de los cuales todos los demás se conectan con el mundo, incluyendo la educación.

Por último, todo esto se enmascara en una misión civilizatoria. Afirman que trabajan en ello porque, en última instancia, quieren poner a disposición de la humanidad tecnologías que nos eleven a un estado utópico, y si las desarrollan en China, que consideran “los malos” – lo que generalmente significa China – entonces nos hundimos en un estado distópico. Es una narrativa religiosa que también era frecuente en los antiguos imperios.

El imperio de la IA, como usted lo describe, no se limita a una sola empresa; es un sistema, una lógica. ¿Qué hay detrás de la atención que recibe OpenAI y su director ejecutivo, Sam Altman?

Una respuesta es que las personas necesitan historias que ayuden a concretar lo que de otro modo sería una idea abstracta. Pero también, OpenAI es especialmente interesante porque ha tomado todas las decisiones importantes que han cambiado las normas de la industria y la han dirigido hacia la construcción de un imperio. Fue OpenAI quien decidió expandirse a toda costa, trabajar con modelos de lenguaje grandes y crear una interfaz tipo chatbot. Casi todo lo que la opinión pública asocia hoy con la inteligencia artificial se decidió primero dentro de los muros de OpenAI.

Contar esta historia hace mucho más evidente que la inteligencia artificial no es inevitable, porque descubrimos que fueron personas reales quienes tomaron esas decisiones basadas en sus valores, visión del mundo, y deseos personales de venganza – o lo que sea que realmente haya determinado la trayectoria del desarrollo de la IA. Las ideologías de Sam Altman no solo impregnan el modelo en un sentido abstracto. A menudo se escucha la frase cliché de que los modelos reflejan a sus creadores, pero quería mostrar cómo sucede realmente. Se trata de las empresas, las personas, y el entorno económico e ideológico del que forman parte.

Conforme estas tecnologías se vuelven más eficientes, la toma de control sobre su uso se convierte en una cuestión existencial. Vimos que las grandes tecnológicas se sometieron a Trump en su segunda investidura, pero también que los directores ejecutivos de las empresas de IA se están enfrentando cada vez más al gobierno. ¿De quién será la última palabra: del Estado o de las empresas privadas?

Se está librando una lucha por decidir quién tomará las decisiones. Considero que la relación entre Washington y Silicon Valley es una alianza de conveniencia, pero muy tensa. Representan dos modelos imperiales diferentes, cada uno con sus propios planes de imperio. Ambos intentan expandirse y, literalmente, quieren apoderarse de más territorios de otros países, pero la administración Trump ve a las empresas de IA como instrumentos de sus aspiraciones imperiales. Mientras tanto, Silicon Valley ve a la administración Trump como un instrumento de sus propios intereses imperiales, pero en realidad no están en sintonía, porque ambos quieren que ellos sean la autoridad suprema en la cima.

Hubo momentos en que el gobierno estadounidense demostró que todavía es el jefe – cuando Trump y Musk se enfrentaron, Musk fue despedido. Pero cuando el Departamento de Defensa entró en conflicto con Anthropic, la empresa demostró que en ese caso, ellos son los más fuertes: Pete Hegseth, secretario de Defensa, propuso la “opción nuclear”, amenazando con declarar a la empresa como un riesgo en la cadena de suministro – como una medida extrema para forzar a Anthropic a obedecer –, pero la empresa incluso así no cedió. De manera bastante incómoda, el Departamento de Guerra quedó profundamente dependiente de un actor privado que no está dispuesto a cooperar según los términos del gobierno, y el gobierno no puede hacer nada contra ello.

Ambos actores imperiales deben ser responsables, y esa responsabilidad no vendrá de ninguno de ellos; debe venir del pueblo. Desde abajo hacia arriba, en una organización que empieza a florecer en todo el mundo, incluyendo Estados Unidos. Por muy impenetrable que parezca este acuerdo de conveniencia, en realidad es sumamente frágil, y existen oportunidades para acelerar su caída si presionamos más en sus puntos débiles.

En lugar de ver la inteligencia artificial como una competencia global entre buenos y malos, deberíamos pensar en qué tipo de sociedad queremos construir.

El estado actual del desarrollo de la inteligencia artificial parece una competencia hacia el fondo del pozo entre empresas rivales y superpotencias globales. ¿Qué papel ha jugado la competencia geopolítica con China en que la IA haya llegado a esta situación difícil?

China es una carta que Silicon Valley ha estado jugando desde hace una década, prácticamente desde que expulsaron a China. Sin embargo, si revisamos los resultados de ese argumento, vemos que en realidad siempre sucedió lo contrario de lo que predijo Silicon Valley.

Se afirmó que la falta de regulación en las empresas de Silicon Valley – y su regulación a través de las restricciones de exportación a China – haría que la tecnología estadounidense dominara en todo el mundo. Pero TikTok es la plataforma de redes sociales más popular, y los modelos de IA de código abierto chinos son cada vez más populares en todo el mundo, incluso en Estados Unidos. También prometieron que la dominancia del Silicon Valley tendría un efecto liberalizador en el mundo, pero eso no ocurrió; su impacto fue, por el contrario, profundamente iliberal. Se observó una erosión significativa de las instituciones democráticas y una aceleración rápida del retroceso democrático, impulsada también por las plataformas de Silicon Valley y las tecnologías de IA.

En lugar de ver la inteligencia artificial como una competencia global entre buenos y malos, deberíamos pensar en qué tipo de sociedad queremos construir, qué tecnologías de IA apoyarían esa visión, y qué recursos necesitamos para lograrlo. No deberíamos competir en una carrera dictada por Silicon Valley, sino en las ideas y valores que queremos mantener. Y creo que Europa tiene aquí la oportunidad de mostrarle al mundo un tercer camino, diferente al de Estados Unidos y China, y que establezca nuevas reglas.

La Comisión Europea recientemente aprobó un paquete de soberanía tecnológica, como parte de su esfuerzo por seguir un camino tecnológico propio. ¿Cómo podemos definir esa visión futura para que no sea solo una versión europea de un modelo empresarial de vigilancia y oligarquía?

La estrella guía que Europa debe seguir no es la soberanía por la soberanía, sino el objetivo de alcanzarla. Europa – o al menos gran parte de ella – es uno de los últimos bastiones de la democracia en el mundo. Apoya los derechos humanos y las libertades, y necesita la soberanía tecnológica para promover estos valores. Mientras siga siendo sumamente dependiente de sistemas que se desarrollan de manera autoritaria y que buscan socavar las sociedades europeas, no podrá mantener sus valores.

El concepto de soberanía tiende a difuminarse si se empieza a entender solo como un fin en sí mismo. Debe ser una herramienta para alcanzar un objetivo.

¿De qué coaliciones, grupos de interés o escenarios de conflicto deberíamos partir para construir esa visión alternativa?

Primero, debemos entender la gestión de la IA en un sentido más amplio. Por ejemplo, fortalecer los derechos laborales y proteger a la sociedad civil también forman parte de la gestión de la IA. Los estudiantes, profesores y profesionales de la salud deben estar en la mesa para ayudar a moldear y cuestionar cómo se desarrolla y aplica la inteligencia artificial en la sociedad. La educación es clave, tanto como sector y como coalición que debemos involucrar, como en la sensibilización social respecto a la IA.

Otra dimensión importante es financiar a investigadores y emprendedores en IA para que exploren los detalles técnicos y las aplicaciones de sus desarrollos. Pero no podemos simplemente darles dinero sin dar voz a otras partes de la sociedad; de lo contrario, solo repetiremos los problemas que enfrentamos en Estados Unidos, donde en esencia las decisiones las toman tecnócratas o tecnoconservadores.

No partimos de cero. Ya se ha trabajado mucho para definir los objetivos comunes que la sociedad debe perseguir. Por ejemplo, los objetivos de desarrollo sostenible pueden ser un punto de partida para pensar cómo financiar la innovación en IA.

Las narrativas actuales sobre las tecnologías de IA están muy polarizadas. Por un lado, quienes dicen que estas tecnologías no son nada nuevo y que la burbuja explotará pronto. Por otro, quienes creen que la IA transformará nuestras vidas, revolucionará las cadenas de suministro y nos hará innecesarios. ¿Qué opina sobre estos diferentes puntos de vista?

Es cierto que muchos tienden a exagerar los beneficios sin considerar los costos de las tecnologías, o a sobrevalorarlos sin ver los beneficios reales. Pero también creo que hay una proporción significativa que está de acuerdo en que queremos aprovechar los beneficios de la IA, sin pagar con nuestra dignidad y calidad de vida – que incluye buena atención médica, oportunidades económicas, un entorno saludable y un planeta próspero. Esa es la aproximación más equilibrada.

La inteligencia artificial (IA) es un término paraguas para muchas tecnologías diferentes, por lo que debemos pensar cuidadosamente en en cuáles invertir y qué nuevas tecnologías queremos desarrollar, ya que cada una implica diferentes compromisos; algunas están en línea con el futuro que queremos construir, otras no. Debemos elegir sabiamente.

La inteligencia artificial (IA) abarca muchas tecnologías distintas, por lo que debemos reflexionar cuidadosamente en cuáles invertir y qué nuevas tecnologías desarrollar.

¿Cuál es su relación personal con las herramientas de IA existentes?

No las uso por tres razones principales. Primero, por mi postura ética. Segundo, por mi postura respecto a la privacidad: estas empresas son en última instancia las tecnologías de vigilancia más eficaces que se han inventado. Tercero, estas herramientas no son realmente útiles para las habilidades específicas que necesito para hacer mi trabajo.

No digo que todos deban hacer lo mismo. He hablado con muchas personas que claramente se benefician de estas herramientas, o que por su rol profesional están obligadas a usarlas. Pero la solución actual, en mi opinión, es hacer lo que en otras industrias, como la moda, ya hicimos: cuando descubrimos que la mayoría de nuestra ropa se produce en condiciones terribles, no simplemente desechamos la ropa. Se requirió una organización de consumidores, trabajadores, regulación gubernamental y una respuesta social generalizada para poner a la industria en cintura. Por supuesto, la moda aún no es perfecta, pero al menos hoy hay alternativas, y los consumidores pueden votar con su dinero qué cadenas de suministro y prácticas empresariales apoyan.

Lo mismo debemos hacer con la inteligencia artificial. Actualmente, no hay suficientes alternativas para los usuarios, y para que eso cambie, se necesita mayor organización laboral y resistencia pública. Quienes puedan abstenerse de usar estas tecnologías deben boicotear, y los gobiernos deben intervenir para ayudar a crear nuevos mercados para las alternativas.

Los consumidores tienen una influencia importante, pero no es la única. Como individuos, empleados, docentes y ciudadanos, debemos pensar en cómo usar estos roles para mejorar el desarrollo de la inteligencia artificial.