Daniel Innerarity: “É crucial alimentar a IA com mais diversidade”

Daniel Innerarity, um dos pensadores espanhóis mais destacados do mundo contemporâneo, propõe em seu último livro a necessidade de “alimentar a IA com mais diversidade” para que não se torne um instrumento de exclusão.

Innerarity (Bilbao, 1959), professor de Filosofia Política e Social, pesquisador Ikerbasque na Universidade do País Basco, apresenta essas ideias em Uma teoria crítica da inteligência artificial (Galaxia Gutenberg, 2025).

E junto com a ampliação da diversidade nas fontes que alimentam esses novos sistemas, o professor acrescenta outra ideia: a necessidade de “supervisionar a interação humana para garantir sua compatibilidade com valores democráticos”.

Nesta entrevista, conversa sobre este novo livro, premiado com o III Prêmio de Ensaio Eugenio Trías. Na capa, uma gaivota sobre uma grade dobrada em frente ao mar sugere, contra o previsível, outra maneira de olhar a revolução tecnológica.

Por que esta capa e este livro?

Não queria a típica imagem em tons de azul, associada ao etéreo e às nuvens, porque concebo a inteligência artificial de forma mais material, em contraste com o corpo humano. A foto, um pouco retocada com IA, brinca com essa ideia: uma máquina interpretaria que a barra se dobrou pelo peso da gaivota, enquanto nós, humanos, entendemos a brincadeira imediatamente. É uma metáfora sobre as diferenças entre nossa intuição e o processamento da IA.

Escrevi este livro para que se entenda o que está em jogo. Há muita histeria sobre a tecnologia, com expectativas desmedidas de tecnossolucionismo. Silicon Valley quer que acreditemos que a tecnologia, e não a deliberação democrática, resolverá os grandes problemas. Também há um pânico exagerado, não ajustado aos riscos reais nem às nossas possibilidades de enfrentá-los. A IA não impõe um caminho, abre várias possibilidades, como o contexto histórico, político e geoestratégico atual. Não está escrito que isso termine mal nem que a tecnologia reduza nossa liberdade, ela pode ter um potencial emancipador.

O ‘tecnossolucionismo’ é a ideologia da era digital?

É a de certos grandes empresários do mundo digital, reforçada pelo espetacular desenvolvimento tecnológico. A cada dia surgem notícias promissoras ou inquietantes: ontem, uma mulher recuperou a fala graças à IA; hoje, os tradutores protestam para que seus trabalhos não alimentem esses sistemas. Este carrossel de avanços e conflitos gera perplexidade.

Qual é o papel da decisão política em uma democracia algorítmica, considerando que a IA condiciona tanto o discussão quanto a tomada de decisões?

O processo de decisão na IA envolve design, dados e interação com usuários, e a chave está em quando, como e para quê os humanos devem intervir. A falta de diversidade entre os que projetam esses sistemas, especialmente a escassa presença feminina, pode gerar vieses. Um exemplo é o reconhecimento facial que confundia mulheres negras com orangotangos devido a treinamentos tendenciosos com mais imagens de homens brancos. É crucial alimentar a IA com mais diversidade, como faz a Espanha com a IA em castelhano e línguas cooficiais [ALIA], frente ao atual anglocentrismo, e supervisionar a interação humana para garantir sua compatibilidade com valores democráticos, como fazem Algorithm Watch e a AESIA (Agência Espanhola de Supervisão da IA).

Por que não é desejável que a IA seja igual à humana? Podemos controlá-la?

Na aviação, os irmãos Wright demonstraram que, em vez de imitar as aves, era preciso estudar a aerodinâmica. Assim acontece com a IA: ao invés de replicar a inteligência humana, deve-se aproveitar sua capacidade de computação e manejo de grandes volumes de dados. Funciona bem em contextos com dados claros e soluções binárias, mas em problemas complexos ou ambíguos, os humanos continuam sendo insubstituíveis.

Não encontramos um conceito de controle adequado para a IA: ou deixamos margem demais, colocando em risco valores, ou aplicamos um controle excessivo que freia seu aprendizado. O Ato Europeu de IA avança na direção certa, mas ainda é genérico. É como em 1868, quando no Reino Unido se exigia que uma pessoa andasse à frente do carro com uma bandeira vermelha para evitar acidentes. A chave está em combinar velocidade e segurança, como com os carros modernos ou o ABS, onde a melhoria tecnológica evita riscos de frear bruscamente em uma situação de pânico.

Que legitimidade temos para impor uma perspectiva regulatória europeia?

O ideal seria alcançar um acordo global sobre padrões éticos, políticos e democráticos, mas temos culturas distintas. Como na mudança climática, sabemos que é urgente, mas avança-se com pactos parciais. No entanto, os padrões europeus influenciam outros atores. Além disso, IA e ecologia se sobrepõem porque o consumo energético dessa tecnologia é enorme e já faz parte da agenda climática internacional.

O que implica que as regulações de IA sejam formuladas por pessoas não nativas digitais, com percepções diferentes sobre seus riscos e benefícios em relação às novas gerações?

A transformação digital não consiste apenas em digitalizar administrações, mas em transformar a sociedade como um todo. E uma transformação dessa magnitude deve ser democrática e inclusiva, abrir debates, permitir críticas e levar em conta as brechas geracionais, econômicas, geográficas e culturais. Não pode ser gerida ignorando a diversidade: nativos digitais, idosos, migrantes, habitantes do mundo rural… É uma prova de fogo: desenvolveremos uma tecnologia inclusiva ou deixaremos que ela divida e expulse? Devemos evitar que a digitalização seja uma ferramenta de exclusão, como se percebeu com a transição ecológica nas protestas dos coletes amarelos na França.

Em A era da revanche, Andrea Rizzi propõe um organismo global para governar a IA, como a OIEA na energia nuclear. Como fazer isso em um contexto de desconfiança?

Vivemos nessa era e as instituições globais são questionadas por motivos ideológicos ou geoestratégicos. Predomina a lógica do “salve-se quem puder” e os jogos de soma zero, o que dificulta uma governança internacional sólida. Hoje, o modelo win-win nem está, nem se espera que esteja. A esse respeito, a pandemia teve efeitos ambivalentes. No lado positivo, promoveu uma resposta cooperativa na Europa, impulsionando mecanismos de solidariedade como os fundos Next Generation, impensáveis em 2008. No lado negativo, aprofundou desigualdades, como a educação online, que excluiu estudantes do ambiente escolar, e gerou sensação de vulnerabilidade e irritação social, alimentando desconfiança em autoridades, migrantes e outros países, do que vivem certos extremismos atualmente.

Quais as repercussões dessa desconfiança?

Agora, a cidadania tem maior senso crítico, o que pode ser visto como um avanço democrático. No entanto, acredito que a ideia de transparência está supervalorizada e que nossa cultura visual assume erroneamente que ver equivale a entender. Frente à transparência – entendida como simplesmente “ver dentro da caixa preta” – proponho focar na explicabilidade: não basta mostrar, é preciso tornar compreensível, porque os sistemas tecnológicos atuais são tão complexos que só podem ser avaliados adequadamente por meio de instituições públicas de mediação confiáveis.

Como enfrentamos algoritmos que favorecem a polarização e a desinformação?

Passamos de um ecossistema com poucas fontes de informação para um com muitas, onde o desafio é discriminar a confiável. Essa abundância, benéfica e democrática, é distorcida por redes sociais com algoritmos que favorecem o extremismo, a polarização, o escandaloso e penalizam a moderação. Mas é possível regular os algoritmos para promover dinâmicas compatíveis com uma cultura democrática, como faz a UE.

Como abordamos o conflito entre IA e direitos autorais?

A Europa lidera na regulação de direitos autorais e privacidade, mas o equilíbrio é complexo. Grande parte da criatividade humana consiste em recompor a criatividade de outros, não somos tão criativos quanto pensamos. Não se trata de justificar o plágio, há limites evidentes, mas em outros casos não é fácil delimitar o que é original e o que é repetitivo, em grande medida porque vivemos em uma cultura com muitos produtos – como roteiros de séries ou bestsellers – banais ou baseados em fórmulas pouco originais.

A IA está revolucionando campos como a medicina, mas a formação está atrasada. O que diria, em geral, a mestres e professores, como você?

Em áreas como medicina (ou direito), fica muito evidente o descompasso entre o que a sociedade espera e uma formação memorizada, repetitiva e pouco criativa. Embora em saúde e justiça não costumemos fazer experimentos, seria necessária uma formação mais holística.

De modo geral, diria aos mestres que já não somos apenas transmissores de informação. Desde que existe o Google, essa função se tornou banal, os estudantes já não nos precisam para encontrar dados. O que podemos oferecer que eles não possam encontrar por seus próprios meios?: podemos ajudá-los a formular as perguntas certas – porque procurar não é algo fácil ou espontâneo – e ensiná-los a realmente encontrar o que buscam. O Google compete conosco apenas em coletar informações, não na parte mais criativa de ensinar.

Fonte: Aser G. Rada / Agência SINC / CC By

Fotografia: Juantxo Egaña / CC By-sa