¿Se debe temer a la inteligencia artificial?
Anunciada como la inminente gran revolución tecnológica, la inteligencia artificial (IA) y su aplicación en campos cada vez más amplios, suscita tanta inquietud como entusiasmo. A los partidarios de lo segundo, los convencidos de que la IA ayudará a resolver la mayoría de los problemas a que se enfrenta la humanidad (creando de paso algunos nuevos multimillonarios), son muchos los observadores que se oponen debido a los riesgos aún desconocidos que representan las máquinas capaces de pensar y actuar infinitamente más rápido que los humanos.
Sin embargo, tal como señala en The Conversation el profesor de inteligencia artificial de la Universidad de Bath (Reino Unido) Nello Cristianini, «ninguno de los escenarios mencionados» -ya vengan de expertos o de empresarios del sector– «parece marcar un camino específico hacia la extinción humana. Esto significa que nos quedamos con una sensación de alarma generalizada sin ninguna acción posible que emprender». Una postura que comparte Christopher Wylie, el denunciante del escándalo de Cambridge Analytica, en el artículo que publicamos esta semana.
En la misma línea, en un artículo publicado en New Scientist (por suscripción), Mhairi Aitken, investigadora en ética del Instituto Alan Turing, considera que estas advertencias apocalípticas «infunden temor porque desvían decisivamente el debate sobre las consecuencias de la inteligencia artificial y su desarrollo responsable”.
Profundamente arraigada en el imaginario colectivo, esta idea «se insinúa ahora en el ámbito político y regulatorio. Y esto es preocupante», añade, «porque las pruebas que respaldan las tesis alarmistas son prácticamente inexistentes y no resisten un examen minucioso”. Aitken considera que el objetivo de estas alertas no es otro que el de «desviar las peticiones de transparencia y suprimir el debate sobre las responsabilidades de los promotores».
¿Dónde está Europa a todo esto? Por una vez, la Unión Europea abordó la cuestión de la IA con bastante rapidez, desarrollando una normativa -la Ley de Inteligencia Artificial– que debe entrar en vigor en 2024 y «que prevé clases de riesgo para las cuales los procedimientos de certificación a cargo de los productores son más severos a medida que aumenta el riesgo», explica Francesca Lagiola, investigadora de los departamentos de derecho e ingeniería de la Universidad de Bolonia y del Instituto Universitario Europeo, en una entrevista con Annamaria Testa para Internazionale. «Las clases de riesgo deben garantizar los niveles de fiabilidad y seguridad de un sistema mediante controles y procedimientos previos de cumplimiento y certificación, es decir, antes de que estas tecnologías se comercialicen y utilicen y antes de que se produzcan daños», añade, al tiempo que advierte de la principal limitación de este sistema: “los productores podrán autoevaluar el cumplimiento de los estándares de los sistemas de alto riesgo”.
También para Internazionale, Francesca Spinelli entrevistó a Caterina Rodelli, analista de Access now (organización que defiende los derechos civiles digitales) sobre las deficiencias de la Ley de Inteligencia Artificial. Rodelli pone de relieve que los mecanismos de recurso de los sistemas de alto riesgo no prevén que las organizaciones de interés público presenten un recurso en nombre de un individuo, «ya que las autoridades temen verse desbordadas por acciones legales» iniciadas por las ONG. El texto actual, añade, «excluye también de la categoría de alto riesgo los sistemas de previsión de los movimientos migratorios, muy populares tanto entre los gobiernos decididos a bloquear la llegada de solicitantes de asilo y de ‘migrantes irregulares’ como entre las organizaciones activas en el ámbito de la acogida». Por su parte, unas sesenta organizaciones de defensa de los derechos humanos publicaron en la plataforma Liberties una carta abierta dirigida a los legisladores europeos para pedir que la Ley de Inteligencia Artifical «adopte unas garantías sólidas para proteger los propios cimientos sobre los que se sustenta [la] Unión Europea». La utilización abusiva de los sistemas de IA, en particular su despliegue opaco y nada responsable por parte de las autoridades públicas”, afirman, “constituye una grave amenaza al Estado de derecho y la democracia”.
Sobre el mismo tema
La inteligencia artificial generativa entra poco a poco en la vida de los niños
Nathalie Koubayová | AlgorithmWatch | 25 de septiembre | en inglés
Amazon está desarrollando para su dispositivo Alexa Echo una función para crear cuentos que leerles a los niños por la noche utilizando su modelo lingüístico interno. El sistema genera historias personalizadas basadas en las aportaciones de los niños y en funciones como el reconocimiento de personas a través de la cámara del dispositivo. Esta iniciativa pretende competir con otras empresas de asistentes de voz como Google y Apple. Sin embargo, el paso de Amazon hacia una IA adaptada a los niños ha estado plagado de problemas sobre la protección de la vida privada; la empresa ya ha tenido que pagar 25 millones de dólares por haber recopilado ilegalmente datos sobre niños sin el consentimiento de sus padres. La Unión Europea y ciertos estados de Estados Unidos están en vías de desarrollar unas normas más estrictas sobre la IA para niños.
La IA es una amenaza para la libertad de Internet
Leonhard-Pitz | Netzpolitik | 5 de octubre | en alemán
El informe Freedom of the Net 2023 de la ONG Freedom House revela que la IA “es la próxima amenaza a la libertad en Internet”. La IA se está utilizando para ampliar la desinformación en muchos países, lo que hace que la censura sea más sofisticada. El uso de la IA por parte de las autoridades, combinado con la moderación que imponen las propias plataformas, está provocando una decadencia de la libertad en Internet. El informe destaca la necesidad de una regulación basada en los derechos humanos, la transparencia y una supervisión independiente en lo que respecta a la IA.
Más artículos
Politizar la reforma de las reglas presupuestarias de la Unión Europea
Shanin Vallée, Philippe Lamberts | Le Grand Continent | 19 de septiembre | en francés
Para el economista Shahin Vallée y el copresidente de los Verdes en el Parlamento Europeo Philippe Lamberts las divisiones entre los Estados miembros, la incapacidad de separar las negociaciones presupuestarias nacionales de aquellas sobre el presupuesto común de la Unión Europea y los compromisos insuficientes constituyen obstáculos para la reforma de la gobernanza económica europea. Por ello, abogan por una reforma más transparente, menos procíclica y más centrada en la inversión pública, necesitada de ajustes fiscales y mayores recursos para el presupuesto de la Unión. Por eso, consideran que “estas cuestiones deben estar en el centro de la próxima campaña electoral europea”.
Thierry Breton en la arena de Elon Musk
Markus Reuter | Netzpolitik | 11 de octubre | en alemán
El Comisario europeo de Mercado Interior y Servicios, Thierry Breton, envió una carta al jefe de la red social X (antes conocida como Twitter) Elon Musk, desde su cuenta en la red social competidora (y abierta) Mastodon. Breton señala la desinformación difundida en X tras los ataques de Hamás contra Israel. Musk debería eliminar el contenido ilegal y responder dentro de las 24 horas, como lo exige la Ley de Servicios Digitales. Si el objeto de la carta tiene sentido, señala Markus Reuter, «estamos asistiendo a una política de espectáculo, con la aplicación de la legislación de la UE como un combate público entre dos hombres sobre el ring de boxeo emocional de las redes sociales”.
El modelo de adhesión a “menú fijo” de la UE está fracasando. Es hora de adoptar un enfoque «a la carta»
Alberto Alemanno | The Guardian | 10 de octubre | en inglés
La posible adhesión de nuevos Estados, en particular Ucrania, «ofrece una ocasión única para hacer que la Unión Europea sea estratégicamente independiente en un nuevo orden mundial», considera el profesor de Derecho Europeo en HEC (y miembro del comité asesor de Voxeurop) y exige una revisión de la gobernanza de la UE. Las dos iniciativas, una del Parlamento Europeo y la otra de un grupo franco-alemán, destinadas a reformar las estructuras de la UE, incluida la posibilidad de un sistema de múltiples velocidades, podrían favorecer la integración y mejorar la capacidad de la UE para hacer frente a los desafíos globales.
Traducido por Rafael Aparicio Martin
