A derrubada do império da IA

Enquanto a competição technocrática-autoritária pelo desenvolvimento de tecnologias avançadas de inteligência artificial continua a todo vapor, a influência da Silicon Valley nas agendas regulatórias já rivaliza – e até supera – a de muitos Estados. Entre as ambições das superpotências globais e dos gigantes da IA, no entanto, a Europa tem a oportunidade de buscar algo melhor. Entrevista com a premiada jornalista e escritora Karen Hao.

Alessio Giussani: Diversas metáforas foram usadas para descrever o modelo atual de desenvolvimento de inteligência artificial – por exemplo, um papagaio ou um espelho. Por que você escolheu justamente a metáfora do império?

Karen Hao: Acho que essas metáforas são todas extremamente úteis. Eu foco na de “império” porque não apenas examino a ferramenta técnica em si e o que acontece quando ela é aplicada na sociedade, mas também a produção da tecnologia, assim como os atores que acumulam um poder econômico e político extraordinário para sua criação.

Tenho quatro razões principais para chamar esse sistema de império. Primeiro, essas empresas demandam recursos que não lhes pertencem: os dados de indivíduos, bem como o trabalho de escritores e criadores. Em segundo lugar, exploram de forma extrema a força de trabalho, tanto os trabalhadores explorados na cadeia de produção e fornecimento de tecnologias, quanto aqueles cujos direitos trabalhistas são prejudicados durante a implementação dessas tecnologias.

O terceiro aspecto é o controle da informação. Uma das principais características da expansão de impérios é a capacidade de filtrar toda a produção de conhecimento e informação pelos seus objetivos imperiais, e é exatamente isso que fazem as empresas de inteligência artificial. Elas controlam e censuram a ciência ao financiar a maior parte da pesquisa em IA e ao construir tecnologias de informação que pretendem transformar em um portal centralizado, através do qual todos se conectam ao mundo, incluindo a educação.

Por fim, tudo isso é revestido de uma missão civilizatória. Alegam que trabalham para fornecer uma tecnologia que nos elevará a um estado utópico, e que, se ela for desenvolvida por “vilões” – geralmente se referindo à China –, acabaremos caindo em um estado distópico. Trata-se de uma narrativa religiosa, comum também em antigos impérios.

O império da IA, como você descreve, não se limita a uma única empresa; é um sistema, uma lógica. O que está por trás do foco na OpenAI e na figura do seu CEO, Sam Altman?

Uma resposta é que as pessoas precisam de histórias que ajudem a concretizar ideias que, de outra forma, permaneceriam abstratas. Mas a OpenAI é especialmente interessante porque tomou todas as decisões importantes que mudaram as normas do setor e direcionaram essa construção de império. Foi a OpenAI quem decidiu expandir a qualquer custo, trabalhar com grandes modelos de linguagem e criar uma interface semelhante a um chatbot. Quase tudo que o público associa hoje à inteligência artificial foi decidido inicialmente dentro da OpenAI.

Contar essa história torna muito mais claro que a IA não é inevitável, pois percebemos que foram pessoas reais que tomaram as decisões baseadas em seus valores, visões de mundo, desejos de vingança pessoal – qualquer que fosse o que realmente moldou o percurso do desenvolvimento da IA. As ideologias de Sam Altman não apenas permeiam o modelo de forma abstrata. É comum ouvir a frase de que os modelos refletem seus criadores, mas eu quis mostrar como isso realmente acontece. Trata-se de empresas, de pessoas, de um ambiente econômico e ideológico do qual fazem parte.

À medida que essas tecnologias se tornam mais eficientes, o controle sobre sua aplicação se torna uma questão existencial. Vimos que as Big Techs se curvaram diante de Trump na sua segunda posse, mas também que os CEOs das empresas de IA estão cada vez mais em conflito com o governo. Quem terá a palavra final – o Estado ou as empresas privadas?

Há uma luta em andamento sobre quem tomará as decisões. Vejo a relação entre Washington e o Vale do Silício como uma aliança de conveniência, mas bastante tensa. Representam modelos de império diferentes, cada um com seus próprios planos expansionistas. Ambos tentam conquistar mais territórios de outros países, mas o governo Trump via as empresas de IA como instrumentos de suas ambições imperiais. Enquanto isso, o Vale do Silício vê o governo Trump como um instrumento de suas próprias ambições, mas na prática ambos não estão na mesma sintonia, pois ambos querem ser a autoridade suprema no topo.

Houve momentos em que o governo americano mostrou que ainda é o chefe – quando Trump e Musk se enfrentaram, Musk foi demitido. Mas, quando o Departamento de Defesa entrou em conflito com a Anthropic, a empresa demonstrou que, nesse caso, é ela quem tem a força: o secretário de Defesa, Pete Hegseth, chegou a sugerir a “opção nuclear”, ameaçando classificar a empresa como risco na cadeia de suprimentos – uma medida extrema para forçar a submissão da Anthropic –, mas a empresa não cedeu. De forma bastante embaraçosa, o Departamento de Defesa se tornou profundamente dependente de uma entidade privada que não quer cooperar sob as condições do governo, e este não pode fazer nada contra ela.

Ambos os atores do império precisam ser responsabilizados, e essa responsabilização não virá de um deles; deve vir do povo. De uma organização bottom-up, que começa a florescer ao redor do mundo, incluindo os Estados Unidos. Por mais que essa aliança de conveniência pareça inquebrável, ela é extremamente frágil, e há possibilidades de acelerar sua queda ao aumentar a pressão sobre seus pontos fracos.

Em vez de vermos a inteligência artificial como uma competição global entre bons e maus, deveríamos pensar mais na visão de futuro que queremos para a sociedade.

O estado atual do desenvolvimento de IA parece uma corrida rumo ao fundo do poço, entre empresas rivais e superpotências globais. Qual papel teve a competição geopolítica com a China na colocação da IA na situação difícil em que se encontra hoje?

A China é uma carta que o Vale do Silício joga há mais de uma década, praticamente desde que expulsaram a China do país. Mas, ao analisar os resultados anteriores dessa estratégia, vemos que, na prática, sempre aconteceu o oposto do que as previsões do Vale indicavam.

Previam que a falta de regulamentação das empresas do Vale – e a regulação da China por meio de restrições à exportação – faria com que a tecnologia americana dominasse o mundo. Mas o TikTok é a plataforma de mídia social mais popular, e os modelos de IA de código aberto chineses estão cada vez mais populares globalmente, inclusive nos EUA. Prometeram que a dominância do Vale do Silício teria um efeito liberalizador no mundo, mas isso também não se concretizou; pelo contrário, seu impacto foi profundamente iliberal. Houve uma erosão significativa das instituições democráticas e uma aceleração rápida do declínio da democracia, impulsionada pelas plataformas do Vale e pelas tecnologias de IA.

Em vez de vermos a inteligência artificial como uma competição global entre bons e maus, deveríamos pensar mais na visão de futuro que queremos para a sociedade, quais tecnologias de IA apoiariam essa visão, e quais recursos precisamos para realizá-la. Não devemos competir na corrida definida pelo Vale do Silício, mas sim nas ideias e valores que queremos preservar. E acredito que a Europa tem aqui uma oportunidade de mostrar ao mundo um terceiro caminho, diferente dos Estados Unidos e da China, estabelecendo novas regras.

A Comissão Europeia recentemente aprovou um pacote de soberania tecnológica, parte de um esforço para que a Europa siga seu próprio caminho tecnológico. Como podemos definir essa visão de futuro de modo a não criar uma versão europeia de um modelo oligárquico de vigilância?

A estrela guia que a Europa deve seguir não é a soberania por si só, mas o objetivo de alcançá-la. A Europa – ou pelo menos grande parte dela – é uma das últimas fortalezas da democracia no mundo. Apoia os direitos humanos e as liberdades, e precisa de soberania tecnológica para promover esses valores. Enquanto permanecer altamente dependente de sistemas desenvolvidos de forma autoritária e que visam minar as sociedades europeias, ela não conseguirá manter seus valores.

A noção de soberania tende a se tornar difusa se começarmos a interpretá-la apenas como um fim em si mesma. Deve ser uma ferramenta para alcançar um objetivo.

De que coalizões, grupos de interesse ou conflitos devemos partir para construir essa visão alternativa de futuro?

Primeiro, precisamos entender a governança da IA de forma mais ampla. Por exemplo, fortalecer os direitos dos trabalhadores e proteger a sociedade civil também fazem parte da governança da IA. Estudantes, professores e profissionais de saúde devem estar na mesa, ajudando a moldar e questionar como a inteligência artificial é desenvolvida e aplicada na sociedade. A educação é fundamental, tanto como setor quanto como coalizão que devemos envolver, quanto na conscientização social sobre IA.

Outro aspecto importante é o financiamento de pesquisadores e empreendedores de IA, para entenderem os detalhes técnicos de seus desenvolvimentos e suas aplicações. Mas não podemos simplesmente dar dinheiro sem dar voz à sociedade como um todo; caso contrário, repetiremos os problemas que enfrentamos nos EUA, onde decisões são tomadas por tecnocratas ou tecnoconservadores.

Não estamos começando do zero. Já há muito trabalho feito para definir objetivos comuns que a sociedade deve buscar. Por exemplo, os objetivos de desenvolvimento sustentável podem servir de ponto de partida para pensar em como financiar a inovação em IA.

As narrativas atuais sobre tecnologias de IA estão extremamente polarizadas. De um lado, há quem diga que essas tecnologias não trazem nada de realmente novo e que a bolha vai estourar em breve. Do outro, há quem acredite que a IA vai transformar nossas vidas, revolucionar cadeias de suprimentos e tornar todos nós desnecessários. O que você pensa sobre esses diferentes pontos de vista?

De fato, muitos tendem a exagerar os benefícios sem considerar os custos dessas tecnologias, ou a enfatizar excessivamente os custos sem perceber os benefícios. Mas acredito que há uma proporção significativa de pessoas que concordam que queremos aproveitar as vantagens da IA, sem comprometer nosso modo de vida digno – que inclui bom acesso à saúde, oportunidades econômicas, um ambiente saudável e um planeta próspero. Essa é a abordagem mais equilibrada.

A inteligência artificial (IA) é um termo guarda-chuva para várias tecnologias, por isso precisamos refletir cuidadosamente em quais investir e quais novas tecnologias desenvolver, pois cada uma envolve compromissos diferentes; algumas estão alinhadas com o futuro que queremos construir, outras não. Devemos fazer escolhas sábias.

A inteligência artificial (IA) abrange diversas tecnologias, por isso é fundamental pensarmos bem em onde investir e quais novas tecnologias criar.

Qual é a sua relação com as ferramentas de IA existentes?

Por três motivos principais, não as utilizo. Primeiro, por minha posição ética. Segundo, por minha preocupação com a privacidade: essas empresas são, no final, as tecnologias de vigilância mais eficientes já inventadas. Terceiro, porque essas ferramentas não são realmente úteis para o conjunto de habilidades específicas que preciso para fazer meu trabalho.

Não estou dizendo que todos devam fazer o mesmo. Conversei com muitas pessoas que claramente se beneficiam dessas ferramentas, ou que precisam usá-las por sua função profissional. Mas a solução para o problema atual é fazer, de forma semelhante ao que fizemos com outras indústrias no passado, como a moda. Quando descobrimos que grande parte das nossas roupas é produzida em condições terríveis, não simplesmente nos livramos delas. Foram necessárias várias ações de consumidores, trabalhadores, regulamentações governamentais e uma resposta geral da opinião pública para colocar a indústria sob controle. É claro que a moda ainda não é perfeita, mas hoje há alternativas, e os consumidores podem votar com seu dinheiro apoiando cadeias de suprimentos e práticas empresariais mais responsáveis.

O mesmo deve acontecer com a IA. Atualmente, há poucas alternativas para os usuários, e, para mudar isso, é preciso mais organização de trabalhadores e maior resistência pública. Quem puder evitar usar essas tecnologias deve boicotá-las, e os governos precisam intervir para ajudar a criar novos mercados para alternativas.

Os consumidores têm uma influência importante, mas ela não é a única. Como indivíduos, trabalhadores, professores e cidadãos, devemos refletir sobre como usar esses papéis para melhorar o desenvolvimento da inteligência artificial.