Inteligencia artificial y miedos de la academia

A principios de septiembre, durante la presentación del nuevo modelo GPT-6 Astra, OpenAI anunció la creación de una llamada inteligencia artificial general. Se trata de un nivel de desarrollo de esta tecnología que acercaría los modelos lingüísticos a las capacidades mentales del propio ser humano.

Aunque esta declaración también fue recibida con escepticismo por parte de expertos en el campo de la IA, los eventos posteriores aumentaron la emoción en torno a las posibles capacidades de la inteligencia artificial. Primero, OpenAI anunció que su modelo lingüístico resolvió uno de los «problemas del milenio» (es decir, un problema matemático de importancia fundamental para la ciencia). Luego, en las redes sociales, se difundió una nueva información: matemáticos que estaban cerca de resolver el mismo problema, y que también usaron modelos GPT, expresaron su preocupación de que el avance anunciado por OpenAI se logró gracias a su trabajo.

Añadamos además que desde hace algún tiempo, cada vez con más frecuencia, aparecen en los medios declaraciones de ex empleados de la empresa, que afirman que los modelos creados por OpenAI son peligrosos y que en el futuro, como sistemas completamente autónomos y sin control humano, podrían amenazar a la humanidad.

Sobre los peligros relacionados con el desarrollo de la inteligencia artificial ya se ha escrito mucho. El progreso en este campo conlleva una huella ambiental significativa, ya que los centros de datos, necesarios para entrenar modelos lingüísticos, requieren enormes cantidades de energía y agua. Quedan sin respuesta preguntas sobre la privacidad, ya que los usuarios suben a los modelos lingüísticos cualquier cosa que deseen — desde fotos familiares hasta resultados de análisis médicos — y todo esto se convierte en parte de una poderosa masa de datos que utilizan las grandes empresas tecnológicas.

Finalmente, surgen preguntas, a veces menos, a veces más serias, sobre la seguridad y el futuro: cómo implementar sistemas de control si una tecnología tan poderosa es desarrollada por corporaciones privadas que no están sujetas a ningún control.

Como sociólogo, no puedo evaluar estos peligros. No tengo idea de si en 10 años nos despertaremos en un mundo como el de Terminator. No tengo la competencia para juzgar si las advertencias de que un desarrollo descontrolado de la IA conducirá a que los modelos lingüísticos tomen el control del mundo están basadas en procesos reales o si simplemente reflejan una technofobia característica de tiempos de cambios científicos y tecnológicos. Sin embargo, puedo preguntar sobre la naturaleza de estos miedos, ya que nos dicen algo muy interesante sobre las emociones sociales que provoca el avance tecnológico.

IA y academia

Es un tema interesante porque hace apenas unas semanas tuvimos una controversia propia en Polonia sobre la IA — en concreto, el caso del (des)famoso informe Polacos, retrato propio y la profesora Barbara Mroż-Gorgoń. Es sorprendente la escala de reacciones y la temperatura de las emociones que la acompañaron. Además del linchamiento habitual en internet (escribo «habitual» porque en la era de las redes sociales polarizadas, reacciones tan fuertes no son nada nuevo), muchas voces críticas hacia la ex representante del gobierno en la promoción de la marca Polonia provinieron de círculos académicos. El portavoz de la Conferencia de Rectores de las Escuelas Polacas (una organización que agrupa a los rectores de las universidades polacas) exigió a la profesora Mroż-Gorgoń una disculpa y consideró inapropiado sus palabras, que «cada segundo profesor en el mundo utiliza» inteligencia artificial. En foros sociales, leí muchas críticas de académicos, incluso que la consideraban una vergüenza para la ciencia polaca.

¿De dónde proviene tanta crítica? Para responder, debemos entender qué es realmente la inteligencia artificial desde la perspectiva de la ciencia como campo de producción de conocimiento — y desde la perspectiva de los científicos como personas especializadas en esa producción.

Los entusiastas dirán que es una herramienta que facilita el trabajo. En este punto, debo confesar que uso modelos lingüísticos — principalmente para revisar literatura, un proceso laborioso pero necesario si se quiere publicar en revistas científicas de renombre en inglés. Los modelos lingüísticos aceleran mucho este proceso, sus versiones de pago casi no «alucinan» y pueden seleccionar artículos científicos relevantes para el tema que me interesa, sin que tenga que leer decenas de textos para encontrar unos pocos que encajen con mi área. La inteligencia artificial también me ayuda a traducir al inglés lo que escribí, lo cual es una ventaja importante para alguien que, como representante de una ciencia semi-periférica, debe competir con científicos anglófonos de países del centro.

Existen otras aplicaciones menos controvertidas de la IA en la ciencia, como la automatización de la recopilación de datos (por ejemplo, de sitios web, cuando alguien realiza análisis del discurso) o su análisis preliminar o profundo (por ejemplo, creando claves de categorización preliminares y codificando datos cualitativos). También usan modelos lingüísticos quienes presentan solicitudes de financiamiento — la IA funciona muy bien como asistente que ayuda a redactar la propuesta para aumentar las posibilidades de éxito.

Los críticos de la IA señalan que el uso excesivo de modelos lingüísticos conduce a una inflación significativa en la producción científica. Según un análisis, un investigador que usa herramientas de IA publica en promedio tres veces más textos científicos y puede esperar casi cuatro veces más citas. Otro estudio muestra un aumento importante en la cantidad de solicitudes de subvenciones en el prestigioso programa Marie Sklodowska-Curie Actions entre 2022 y 2025. Todo esto hace que, aunque a los científicos les sea más fácil escribir textos o solicitudes, la competencia creciente hace que sea cada vez más difícil publicar esos textos o conseguir financiamiento.

Las mejores revistas científicas y las agencias de financiamiento más prestigiosas están siendo inundadas por propuestas bien redactadas. Sin embargo, esta mayor oferta de conocimiento científico no se acompaña de una mayor demanda. Las mejores revistas publican la misma cantidad de artículos, y las agencias mantienen presupuestos similares, por lo que la tasa de éxito (la proporción de artículos o solicitudes aceptadas frente a las rechazadas) disminuye constantemente.

A esto se suma la cuestión de la revisión por pares, una actividad clave en la publicación de investigaciones. Los buenos estudios deben ser verificados y revisados por otros especialistas en el campo para poder ser presentados a un público más amplio en un artículo científico. La revisión doble ciego, es decir, anónima, realizada por otros científicos, es el estándar en la mayoría de las disciplinas. Sin embargo, la inflación en la publicación científica hace que cada vez sea más difícil para los investigadores encontrar tiempo para leer cuidadosamente un artículo, evaluarlo de manera rigurosa y redactar la revisión (justificando paso a paso esa evaluación).

Por otro lado, hay evidencias de que los modelos lingüísticos se usan no solo para escribir textos científicos, sino también para evaluarlos. Así, tenemos una situación en la que la inteligencia artificial escribe artículos en lugar de los científicos y luego los evalúa por ellos.

Prestigio en la ciencia

Todos estos fenómenos negativos seguramente fueron considerados por quienes se unieron a un coro casi unánime de críticos de la profesora Mroż-Gorgoń. No quiero cuestionar en este momento sus buenas intenciones. La IA puede ser realmente una gran amenaza para la ciencia, y sus herramientas deben usarse con extrema precaución. La crítica que cayó sobre la coautora del informe es en gran medida justificada. Sin embargo, la radicalidad de esa reacción es sorprendente y quizás oculta un miedo inconsciente — no tanto a las consecuencias directas del desarrollo tecnológico para una actividad específica, sino a la pérdida de estatus.

Mi hipótesis es la siguiente: las emociones relacionadas con el caso de la ex portavoz del gobierno para la promoción de Polonia en el mundo expresan un temor a un cambio radical en las reglas del juego académico basado en el prestigio individual.

Desde la perspectiva de un observador externo, los científicos hacen lo que hacen para que todos vivamos mejor. El conocimiento científico debe servir a los intereses de toda la humanidad (por ejemplo, ayudarnos a vivir más, más sanos y con mayor comodidad). En la visión clásica del sociólogo Robert K. Merton, los elementos del ethos académico son, entre otros, el comunalismo y la desinteresada, es decir, la creencia de que el conocimiento es un patrimonio común de toda la humanidad y que la actividad científica debe estar impulsada por la búsqueda de la verdad, no por intereses particulares. Sin embargo, esta imagen está bastante idealizada, como también señalaron muchos críticos de Merton.

Por supuesto, no niego que los científicos investigan por el bien de la humanidad. Más bien, quiero decir que una motivación muy importante para ellos sigue siendo el prestigio individual. Quizás sea la moneda más valiosa en el mundo de la ciencia. Como decía otro sociólogo más realista, Pierre Bourdieu, en la ciencia, como en otras áreas de la actividad social, se trata de poder. El poder en la ciencia depende de la cantidad de prestigio, que incluye, entre otros, publicaciones en revistas prestigiosas, proyectos financiados por agencias de renombre o el número de citas.

Ese prestigio acumulado los científicos pueden luego intercambiarlo por otros recursos (por ejemplo, un científico con alto prestigio puede ganar más dinero) o usar su capital para lograr éxito también fuera del ámbito académico (por ejemplo, convertirse en una figura mediática reconocida o involucrarse en política). Al mismo tiempo, acumular esa «moneda» que es el prestigio puede ser muy difícil y requerir muchos sacrificios, incluso personales. Por otro lado, los científicos reconocidos, aquellos que ya han obtenido mucho prestigio, tienen luego más facilidad y alcanzan sus metas más rápidamente.

Para ese prestigio, es fundamental atribuir un logro científico concreto a una persona específica. El prestigio siempre puede ser atribuido a un científico en particular. El prestigio es de alguien, de lo contrario, como moneda, no tiene sentido. Por eso, los científicos dan tanta importancia a atribuir un logro a un nombre — la historia está llena de disputas por la prioridad de una publicación, un descubrimiento o una patente. Otro ejemplo de este mecanismo son las discusiones sobre el orden de los autores en publicaciones científicas: el primero siempre tiene más prestigio, el segundo menos, y así sucesivamente. Yo mismo he sido testigo de varias discusiones acaloradas sobre quién debe figurar en primer lugar.

Un ejemplo claro es también la disputa ya mencionada por la prioridad en la resolución del problema del milenio. Se puede preguntar: ¿a quién le importa realmente quién hizo ese avance primero, si al final lo que cuenta es el aumento del conocimiento? Sin embargo, en ciencia, no solo se trata de eso. Los científicos, en gran medida, están motivados por el deseo de hacer algo significativo que deje su huella en la historia. Podemos juzgarlo de diferentes maneras, pero esa es a menudo la realidad.

Cambio en el juego del prestigio

Y en realidad, así era, porque la implementación de modelos lingüísticos en la ciencia a gran escala está redefiniendo las reglas del juego académico. La IA permite acumular prestigio mucho más rápido en forma de artículos, subvenciones o citas. Como ya señalé, ya hay un aumento exponencial en la cantidad de textos enviados a las principales revistas científicas. Además, el mercado editorial científico se ha adaptado bien a estas circunstancias: cada vez más, revistas llamadas «cosechadoras» publican varias docenas de textos diarios, tienen procesos de revisión rápidos y garantizan alta citabilidad. Editoriales como MDPI o Frontiers se están convirtiendo en un ecosistema natural para la ciencia apoyada por IA.

La eficacia del apoyo de la inteligencia artificial en el trabajo científico hace que el camino hacia el estatus de científico reconocido sea cada vez más fácil (sin entrar en la calidad de ese conocimiento, que sería tema para otra discusión). En el modelo tradicional, al menos en la mayoría de los casos, la acumulación de prestigio era más lenta. Con la era de la IA, todo se acelera. Un científico puede obtener rápidamente recursos de prestigio relativamente grandes y usarlos en diferentes ámbitos, compitiendo con aquellos que «se hicieron» en las viejas reglas.

Como es fácil de imaginar, esta situación inevitablemente conduce a un conflicto entre quienes saben usar modelos lingüísticos y construyen su posición en la ciencia «a atajos», y quienes han invertido mucho tiempo y esfuerzo en su carrera. Creo que esto fue evidente en la reacción del entorno académico polaco ante el caso de la profesora Mroż-Gorgoń.

Por supuesto, el informe Polaków portret własny es un ejemplo perfecto de cómo no usar la IA. Pero también es un anticipo de cómo podría ser en el futuro el juego académico por el prestigio y cómo quienes hoy conforman la élite académica podrían no ser capaces de adaptarse a las nuevas reglas. La profesora Mroż-Gorgoń representa, desde esta perspectiva, algo que sin duda está llegando: un futuro que no solo será un cambio importante, sino que puede voltear las jerarquías existentes.

IA y sensación de alienación

Además, la IA hace que responder a la pregunta «¿quién es el autor de una investigación/patente/descubrimiento/artículo?» sea sumamente problemático, afectando así la dimensión clave — como mencioné antes — del prestigio académico, es decir, la autoría. En el modelo tradicional, la atribución era bastante clara: era fácil asignar los descubrimientos a una persona. Aunque, como mostró el genial Ludwik Fleck hace casi cien años, los grupos y colectivos son los verdaderos creadores de descubrimientos científicos, según las reglas del campo académico, decir «yo soy el autor de este descubrimiento» es una jugada clave para el prestigio.

Volviendo al ejemplo del problema del milenio, dos matemáticos que sugirieron que OpenAI pudo «robar» su avance, en su trabajo también usaron modelos lingüísticos. Estos pertenecían a OpenAI, por lo que quizás los propios científicos contribuyeron a su derrota.

¿Quién es el autor del avance? ¿Esos matemáticos, que probablemente no habrían podido hacerlo sin IA? ¿Los dueños de OpenAI, que quizás usaron prompts preparados por los matemáticos para mejorar sus modelos? ¿O la misma inteligencia artificial? Pero, en realidad, la IA se basa en datos que previamente crearon humanos, en todo el conocimiento científico acumulado, y los prompts también los formula un humano.

Por supuesto, la IA se basa en el conocimiento que fue cargado en el modelo lingüístico por un humano, por lo que en última instancia, alguien vivo es el autor de las ideas que nos sugiere el LLM. Sin embargo, aquí surge un problema relacionado con la multiplicidad de referencias que genera la IA y la velocidad con la que se asimilan. En el trabajo académico tradicional, asimilar y usar ideas ajenas requiere tiempo y, en cierto modo, transforma a quien las usa. Para citar un texto, primero hay que leerlo, entenderlo y dejarse inspirar por él, y luego usarlo creativamente, lo que en conjunto transforma la forma de pensar. Cuando usamos inteligencia artificial, este proceso se acelera mucho, y el mecanismo de absorción (asimilar ideas ajenas para decir algo propio) prácticamente no sucede. Por tanto, no hay tiempo para que las ideas ajenas se conviertan en propias.

Esto, en mi opinión, genera una sensación de alienación respecto al producto de nuestro trabajo intelectual. Si escribo un artículo y la IA lo corrige o sugiere desarrollos que no habría pensado, ¿quién es en realidad el autor? Si la IA empieza a jugar con conceptos y teorías que no conocía y solo asimilé de resúmenes, ¿lo hago conscientemente (es decir, siguiendo mis intenciones autorales) o simplemente dejo que alguien más dirija mi pensamiento? Como mencioné antes, las ideas que circulan en los LLM seguramente tienen sus autores. Pero la experiencia de usar IA en el trabajo académico puede generar una sensación incómoda de falta de subjetividad para los investigadores.