Inteligência artificial e os medos da academia

No início de setembro, durante a apresentação do novo modelo GPT-6 Astra, a OpenAI anunciou a criação de uma chamada inteligência artificial geral. Isso deve ser um nível de desenvolvimento dessa tecnologia que aproximaria os modelos linguísticos das capacidades mentais do próprio ser humano.

Embora essa declaração tenha sido recebida também com ceticismo por parte de especialistas do setor de IA, eventos posteriores aumentaram a emoção em torno das possibilidades potenciais da inteligência artificial. Primeiro, a OpenAI anunciou que seu modelo linguístico resolveu um dos "problemas do milênio" (ou seja, questões matemáticas de importância fundamental para a ciência). Depois, nas redes sociais, surgiu uma nova informação: matemáticos, que estavam próximos de resolver o mesmo problema e também usaram modelos GPT, expressaram preocupação de que a descoberta anunciada pela OpenAI foi possível graças ao seu trabalho.

Vamos acrescentar ainda que, há algum tempo, cada vez mais aparecem na mídia declarações de ex-funcionários da empresa de que os modelos criados pela OpenAI são perigosos e que, no futuro, como sistemas totalmente autônomos e sem controle humano, podem ameaçar a humanidade.

Já foi escrito bastante sobre os riscos relacionados ao desenvolvimento da inteligência artificial. O progresso nessa área está associado a uma pegada ambiental significativa, pois centros de dados, essenciais para treinar modelos linguísticos, requerem enormes quantidades de energia e água. As questões sobre privacidade permanecem sem resposta, já que os usuários inserem nos modelos linguísticos qualquer coisa que desejarem – desde fotos familiares até resultados de exames médicos – e tudo isso se torna parte de uma enorme massa de dados que as grandes empresas de tecnologia utilizam.

Eventualmente, surgem perguntas mais ou menos sérias sobre segurança e futuro – como implementar sistemas de controle, se uma tecnologia tão poderosa está sendo desenvolvida por corporações privadas que não estão sob controle de ninguém?

Como sociólogo, não sou capaz de avaliar esses riscos. Não tenho ideia se, daqui a 10 anos, não acordaremos em um mundo à la Terminator. Não tenho competência para julgar se os alertas de que o desenvolvimento descontrolado da IA levará à tomada de poder pelos modelos linguísticos têm alguma base real ou se são apenas uma expressão de tecnofobia típica de tempos de avanços científicos e tecnológicos. No entanto, posso questionar a natureza desses medos, pois eles nos dizem algo muito interessante sobre as emoções sociais que o desenvolvimento tecnológico provoca.

IA e academia

É uma questão interessante, pois há apenas algumas semanas tivemos uma controvérsia polonesa própria sobre IA – especificamente, o caso do (não tão) famoso relatório Polaków portret własny e da professora Barbara Mroż-Gorgoń. É surpreendente a escala de reações e a temperatura das emoções que ela despertou. Além do linchamento virtual habitual (escrevo “habitual”, pois na era das mídias sociais polarizadas tais reações não são novidade), muitas vozes críticas à ex-assessora do governo para a promoção da marca Polônia vieram do meio acadêmico. O porta-voz da Conferência dos Reitores das Escolas Acadêmicas Polonesas (uma organização que reúne os líderes das universidades polonesas) exigiu que a professora Mroż-Gorgoń se desculpasse e considerou inadequadas suas palavras de que “qual outro professor no mundo usa” a inteligência artificial. Em fóruns sociais, li muitas críticas de representantes acadêmicos, que chegaram a falar até em uma possível vergonha para a ciência polonesa.

De onde vem tanta crítica? Para responder, precisamos entender o que a inteligência artificial realmente é, do ponto de vista da ciência como área de produção de conhecimento – e dos cientistas como pessoas especializadas na produção desse conhecimento.

Os entusiastas dirão que é uma ferramenta que facilita o trabalho. Aqui mesmo, devo admitir que uso modelos linguísticos – principalmente para revisar literatura, um processo trabalhoso, mas necessário se quisermos publicar em periódicos científicos renomados em inglês. Os modelos linguísticos aceleram bastante esse processo, suas versões pagas praticamente não “alucinam” mais e conseguem selecionar artigos científicos relevantes ao tema de interesse, sem que eu precise ler dezenas de textos para encontrar alguns que realmente se encaixem no que estudo. A inteligência artificial também me ajuda a traduzir para o inglês o que escrevi, o que é uma vantagem importante para alguém que, como representante de uma ciência semi-periférica, precisa competir com cientistas anglófonos de países centrais.

Existem outras aplicações menos controversas da IA na ciência, como a automação da coleta de dados (por exemplo, de sites na internet, quando alguém faz análises de discurso) ou sua análise preliminar ou aprofundada (por exemplo, criando categorias iniciais e codificando dados qualitativos). Todos que submetem propostas de financiamento também usam modelos linguísticos – a IA funciona bem como assistente, que sugere como escrever uma proposta para aumentar as chances de sucesso.

Críticos da IA destacam que o uso excessivo de modelos linguísticos leva a uma inflação significativa na produção científica. Segundo uma análise, um cientista que usa ferramentas de IA publica, em média, três vezes mais textos científicos e pode receber quase quatro vezes mais citações do que um que não usa. Outra análise mostra um aumento expressivo no número de pedidos de financiamento no prestigiado programa Marie Sklodowska-Curie Actions entre 2022 e 2025. Tudo isso faz com que, embora seja mais fácil para os cientistas escreverem textos ou propostas, a concorrência crescente torne cada vez mais difícil publicar esses textos ou obter financiamentos.

As melhores revistas científicas e as agências de financiamento mais prestigiadas estão sendo inundadas por propostas bem escritas. Essa maior oferta de conhecimento científico não é acompanhada por uma demanda maior. As melhores revistas publicam o mesmo número de artigos, e as agências dispõem de orçamentos semelhantes, o que faz com que o taxa de sucesso (relação entre artigos ou propostas aceitas e rejeitadas) diminua continuamente.

Além disso, há a questão da revisão por pares, atividade fundamental na publicação de pesquisas. Boas pesquisas precisam passar por verificação e serem avaliadas por outros especialistas na área para serem apresentadas ao público em um artigo científico. Double-blind peer review, ou seja, revisões anônimas feitas por outros cientistas, é o padrão na maioria das áreas do conhecimento. No entanto, a inflação na publicação científica faz com que cada vez mais seja difícil para os pesquisadores encontrarem tempo para ler cuidadosamente um artigo, fazer uma avaliação honesta e escrever a revisão (justificando passo a passo essa avaliação).

Por outro lado, há evidências de que os modelos linguísticos são frequentemente usados não só para escrever textos científicos, mas também para avaliá-los. Assim, temos uma situação em que a inteligência artificial escreve artigos para os cientistas e também os ajuda a avaliar esses materiais.

Prestígio na ciência

Todos esses fenômenos negativos certamente foram considerados por aqueles que se juntaram ao coro quase unânime de críticos da professora Mroż-Gorgoń. Não quero questionar aqui suas boas intenções. A IA realmente pode representar uma grande ameaça à ciência, e suas ferramentas devem ser usadas com extremo cuidado. A crítica que caiu sobre a coautora do relatório é, em grande parte, justificada. No entanto, a radicalidade dessa reação é surpreendente e talvez esconda um medo inconsciente – não tanto das consequências diretas do desenvolvimento tecnológico para uma atividade específica, mas da perda de status.

Minha hipótese é a seguinte: as emoções relacionadas ao caso da ex-porta-voz do governo na promoção da Polônia no mundo refletem o medo de uma mudança radical nas regras do jogo acadêmico, baseada no prestígio individual.

Do ponto de vista de um observador externo, os cientistas fazem o que fazem para que todos nós vivamos melhor. O conhecimento científico serve aos interesses de toda a humanidade (por exemplo, para que vivamos mais, com mais saúde e conforto). Na visão clássica do sociólogo Robert K. Merton, elementos do ethos acadêmico incluem o comunalismo e a abnegação, ou seja, a convicção de que o conhecimento é um patrimônio comum de toda a humanidade e que a atividade científica deve ser impulsionada pela busca da verdade, e não por interesses particulares. No entanto, essa é uma visão bastante idealizada, como muitos críticos de Merton apontaram.

Não nego que os cientistas conduzem pesquisas pelo bem da humanidade. Mas quero dizer que uma motivação extremamente importante para eles também é o prestígio individual. Talvez seja a moeda mais valiosa no mundo da ciência. Como afirmou outro sociólogo mais realista, Pierre Bourdieu, na ciência, assim como em outras áreas da atividade social, trata-se de poder. E o poder na ciência depende, entre outras coisas, da quantidade de prestígio, que inclui publicações em periódicos de prestígio, projetos financiados por agências renomadas ou o número de citações.

Esse prestígio acumulado pode ser posteriormente trocado por outros recursos (por exemplo, um cientista de alto prestígio pode ganhar mais) ou usado como capital para alcançar sucesso também fora do meio acadêmico (por exemplo, um cientista de prestígio pode se tornar uma autoridade midiática ou se envolver na política). Ao mesmo tempo, acumular essa “moeda” que é o prestígio pode ser extremamente difícil e exigir muitos sacrifícios, inclusive pessoais. Por outro lado, cientistas reconhecidos, que já conquistaram bastante prestígio, têm mais facilidade e alcançam seus objetivos de vida mais rapidamente.

Para esse tipo de prestígio, é fundamental atribuir uma conquista científica específica a uma pessoa concreta. O prestígio sempre pertence a um determinado cientista na área do conhecimento. O prestígio é de alguém, caso contrário, como moeda, não faz sentido. Por isso, os cientistas dão tanta importância a atribuir uma conquista a um nome – a história conhece muitas disputas pelo primeiro lugar em uma publicação, descoberta ou patente. Outro exemplo desse mecanismo são as discussões sobre a ordem dos autores em publicações científicas – quem está em primeiro lugar sempre tem mais prestígio, o segundo um pouco menos, e assim por diante. Eu mesmo testemunhei várias discussões acaloradas sobre quem deveria ter prioridade na autoria.

Um exemplo também é a disputa pelo primeiro lugar na solução do problema do milênio. Afinal, quem se importa realmente quem fez a descoberta primeiro, se o que importa é o avanço do conhecimento? Infelizmente, na ciência, essa não é a única questão. Os cientistas são motivados, em grande parte, pelo desejo de fazer algo significativo, que os faça entrar para a história. Podemos julgar isso de várias formas, mas essa é uma realidade comum.

Mudança no jogo do prestígio

E, na verdade, era assim até a implementação dos modelos linguísticos na ciência em larga escala, o que redefine as regras do jogo acadêmico. A IA permite uma coleta de prestígio muito mais rápida, na forma de artigos, financiamentos ou citações. Como já indiquei, há um aumento expressivo no número de textos enviados às principais revistas científicas. Aliás, o mercado editorial científico se adaptou bem a essas circunstâncias – revistas chamadas “ciborgues”, que publicam dezenas de textos por dia, têm processos de revisão rápidos e garantem alta citabilidade. Assim, editoras como MDPI ou Frontiers se tornam ecossistemas naturais para a ciência apoiada por IA.

A eficácia do uso de IA na pesquisa faz com que o caminho para alcançar o status de cientista reconhecido se torne cada vez mais fácil (sem considerar aqui a qualidade do conhecimento, que é tema para outra discussão). No modelo tradicional, na maioria dos casos, a acumulação de prestígio era mais lenta. Com a era da IA, tudo acelera. O cientista pode adquirir recursos de prestígio relativamente rápido e usá-los em diferentes áreas, competindo com aqueles que “conquistaram” seu prestígio sob as regras antigas.

Como é fácil imaginar, essa situação inevitavelmente leva a um conflito entre aqueles que sabem usar modelos linguísticos e, assim, constroem sua posição “de atalho” na ciência, e aqueles que tiveram que fazer muitos sacrifícios e perder tempo para alcançar o mesmo. Acho que tivemos um exemplo disso na reação do meio acadêmico polonês ao caso da professora Mroż-Gorgoń.

Claro que o próprio relatório Polaków portret własny é um excelente exemplo de como NÃO usar a IA. Mas também é um prenúncio de como a competição acadêmica por prestígio pode se transformar no futuro, e de como aqueles que hoje fazem parte da elite acadêmica podem não conseguir se adaptar às novas regras. A professora Mroż-Gorgoń representa, sob esse ponto de vista, algo que inevitavelmente está por vir – um futuro que não é apenas uma mudança significativa, mas uma verdadeira inversão das hierarquias atuais.

IA e sentimento de alienação

Além disso, a IA torna extremamente problemática a resposta à pergunta “quem é o autor da pesquisa/patente/descoberta/artigo”, atingindo assim uma dimensão fundamental do prestígio acadêmico – a autoria. No modelo tradicional, a situação era bastante clara – era fácil atribuir descobertas a uma pessoa. E, como mostrou o genial Ludwik Fleck há quase cem anos, grupos e coletivos são os verdadeiros criadores de descobertas científicas, mas, de acordo com as regras do campo acadêmico, dizer “sou o autor dessa descoberta” é uma jogada fundamental na busca por prestígio.

Vamos novamente ao exemplo da solução do problema do milênio. Dois matemáticos, que sugeriram que a OpenAI poderia “ter roubado” sua descoberta, na própria pesquisa usaram modelos linguísticos. Estes pertenciam à OpenAI, então talvez os cientistas tenham contribuído para sua própria derrota.

Quem é o autor do avanço? Esses matemáticos, que provavelmente não conseguiriam fazer isso sozinhos, por isso usaram IA? Ou os proprietários da OpenAI, que talvez tenham usado prompts preparados por esses matemáticos para melhorar seus modelos? Ou a própria inteligência artificial? Mas, afinal, a IA se baseia em dados que foram criados por humanos, em todo o legado científico até agora, e os prompts também são formulados por humanos.

A IA, é claro, baseia-se no conhecimento que foi carregado no modelo linguístico por humanos, portanto, no final das contas, alguém vivo é o autor das ideias que o LLM nos sugere. No entanto, há aqui um problema relacionado à multiplicidade de referências que a IA gera e à velocidade com que elas são assimiladas. Na pesquisa acadêmica tradicional, assimilar e usar ideias de terceiros leva tempo e, de certa forma, transforma quem as utiliza. Para citar um texto, primeiro preciso lê-lo, compreendê-lo e me inspirar nele, e usar criativamente suas ideias, o que transforma minha forma de pensar. Quando usamos IA, esse processo acelera muito, e o mecanismo de absorção (quando assimilo ideias de terceiros para dizer algo meu) praticamente não ocorre. Assim, não há tempo para que ideias alheias se tornem minhas.

Isso, na minha opinião, gera uma sensação de alienação em relação ao produto do próprio trabalho intelectual. Se escrevo um artigo e a IA faz correções ou sugere desenvolvimentos que eu não teria pensado, quem é, afinal, o autor do artigo? Se a IA começa a manipular conceitos e teorias que eu não conhecia e só assim assimilei por meio de resumos, estou usando esses conceitos conscientemente (ou seja, de acordo com minhas intenções autorais) ou estou sendo conduzido por alguém, como um fantoche, na minha própria linha de pensamento? Como mencionei antes, as ideias presentes nos LLMs provavelmente têm seus autores. Mas a experiência de usar IA na pesquisa acadêmica pode levar a um sentimento desconfortável de falta de subjetividade para os cientistas.

Nos tempos anteriores à IA, eu, como cientista, pensava, descobria, apresentava e negociava o prestígio conquistado ao longo da carreira. Com a IA, isso já não é tão óbvio. E isso pode levar a perguntas existenciais. Se já não sou eu quem pensa, quem é o autor, e minha contribuição parece cada vez mais irrelevante, será que o mundo ainda precisa de mim como cientista? Talvez o desenvolvimento da IA, no futuro – quando as capacidades dos modelos linguísticos forem muito maiores do que atualmente – gere uma consciência irresistível de inutilidade. Isso pode ser insuportável para intelectuais, para quem a subjetividade e, consequentemente, a autoria individual, como elemento essencial do prestígio, são partes fundamentais de sua identidade profissional.

Voltando ao caso da ex-porta-voz do governo, a professora Mroż-Gorgoń não apenas quebrou certas regras do jogo do prestígio. Embora ela mesma atuasse como uma especialista treinada, seu exemplo mostra que o trabalho intelectual de um especialista assim pode ser delegado a um dispositivo relativamente barato e fácil de usar.

A reação exagerada à vergonha da professora Mroż-Gorgoń talvez expresse um medo do futuro, no qual a autoria individual e a subjetividade do cientista se tornem coisas do passado. Um futuro em que as descobertas serão atribuídas não apenas aos cientistas, mas também às corporações e aos modelos de IA. Um futuro em que as carreiras científicas (se é que ainda existirão) não serão mais construídas com base nas regras atuais. Em que o pensamento, o conhecimento e as competências intelectuais deixarão de ser fatores importantes para o status social.

Todos somos Platão

Para explicar melhor em que ponto estão hoje os cientistas (na Polônia e no mundo), vale recorrer à passagem fundamental da história da cultura, da oralidade à escrita. A invenção e a difusão da escrita foram uma revolução tecnológica que mudou muitos aspectos da vida social, do comércio à ciência, da política à cultura. No entanto, nem todos foram entusiastas dessa inovação tecnológica. Entre seus críticos mais ferrenhos estava, por exemplo, Platão, que acreditava que a escrita prejudica a memória e expõe os filósofos ao risco de incompreensão (pois quem fala pode defender o que diz; a escrita, uma vez colocada em circulação, vive sua própria vida, fora do controle do criador). A postura de Platão pode ser interpretada como algo mais do que uma simples tecnofobia: é uma postura de um representante da elite, que percebe que as regras das hierarquias sociais tradicionais estão sendo brutalmente alteradas, e que suas competências não serão mais tão valorizadas como antes.

O medo que permeou algumas reações intensas ao caso da professora Mroż-Gorgoń é uma emoção que acompanha uma postura semelhante à de Platão. É claro que há muitos entusiastas da IA na ciência, não nego. Mas também há muitos opositores na academia, que, além de suas críticas legítimas, temem perder seu prestígio e elementos importantes de sua identidade.

Por um lado, a IA provavelmente prejudica algumas competências, torna-nos preguiçosos e talvez nos conduza a um beco sem saída. Já se aponta que as informações geradas por ela mesma alimentam o sistema, que passa a funcionar em marcha lenta. Por outro lado, o rápido desenvolvimento provoca uma negação alimentada pelo medo, que é tanto uma expressão de medo quanto uma tentativa de impedir mudanças irreversíveis (talvez) que possam transformar o mundo de forma radical.

**
Michał Wróblewski – sociólogo, filósofo, trabalha no Instituto de Sociologia da UMK em Toruń, interessado em sociologia da medicina e sociologia ambiental. Atualmente, conduz pesquisas sobre ceticismo às vacinas e ativismo relacionado à qualidade do ar. Autor de, entre outros, Cuja medos? Cuja ciência? Estruturas do conhecimento frente às controvérsias científico-sociais (com A. Nowak e K. Abriszewski, Poznań 2016), Sociologia das epidemias. Doenças infecciosas emergentes na perspectiva das ciências sociais (com Ł. Afeltowicz; Toruń 2021).

O post Inteligência artificial e medos da academia apareceu primeiro em Krytyka Polityczna.