Daniel Innerarity: “Yapay zekayı daha fazla çeşitlilikle beslemek çok önemli”

Daniel Innerarity, çağdaş dünyada en önde gelen İspanyol düşünürlerden biri, son kitabında “yapay zekayı daha fazla çeşitlilikle besleme” ihtiyacını ortaya koyuyor; böylece dışlama aracı haline gelmemesi sağlanabilir.

Innerarity (Bilbao, 1959), Siyasal ve Toplumsal Felsefe profesörü, Bask Ülkesi Üniversitesi’nde Ikerbasque araştırmacısı, bu fikirleri Yapay Zekanın Eleştirel Bir Teorisi (Galaxia Gutenberg, 2025) adlı eserinde dile getiriyor.

Ve bu yeni sistemleri besleyen kaynaklardaki çeşitliliğin artırılmasının yanı sıra, öğretmen başka bir fikir ekliyor: “demokratik değerlerle uyumluluğu sağlamak için insan etkileşimini denetleme ihtiyacı”.

Bu röportajda, III Eugenio Trías Deneme Ödülü ile ödüllendirilen bu yeni kitap hakkında konuşuyor. Kapakta, deniz karşısında kıvrılmış bir korkuluk üzerinde bir martı, öngörülemez şekilde, teknolojik devrime başka bir bakış açısı öneriyor.

Neden bu kapak ve bu kitap?

Havaüstü ve bulutla ilişkilendirilen mavi tonlarda tipik bir görüntü istemedim, çünkü yapay zekayı daha maddi bir biçimde, insan bedenine karşıt olarak kavrıyorum. IA ile biraz düzenlenmiş bu fotoğraf, bu fikri oynuyor: bir makine, martının ağırlığıyla çubuğun büküldüğünü varsayabilir, oysa biz insanlar hemen şakayı anlarız. Bu, sezgimiz ile yapay zekanın işlemeyi arasındaki farklara dair bir metafor.

Bu kitabı, oyunda ne olduğunu anlamak için yazdım. Teknoloji hakkında çok fazla histeri var, aşırı beklentilerle teknolojik çözümler umuluyor. Silikon Vadisi, büyük sorunları demokratik tartışma yerine teknolojinin çözeceğine inanmayı istiyor. Ayrıca, gerçek risklere ve bizim bunlarla başa çıkma imkanlarımıza uygun olmayan abartılı bir paniğimiz de var. Yapay zeka bir yol dayatmaz, çeşitli olasılıkları açar; bu, tarihsel, politik ve jeostratejik bağlamdan bağımsız değil. Bu kötü bitecek diye yazılmamış, ya da teknoloji özgürlüğümüzü kısıtlayacak diye de. Potansiyel olarak özgürleştirici olabilir.

‘Teknoçözümcülük’ dijital çağın ideolojisi mi?

Dünyadaki bazı büyük dijital girişimcilerin ideolojisi, çarpıcı teknolojik gelişmelerle güçleniyor. Her gün umut verici veya endişe verici haberler çıkıyor: dün, bir kadın IA sayesinde konuşmaya başladı; bugün, çevirmenler, işleri bu sistemleri beslemesin diye protesto ediyor. Bu ilerleme ve çatışma döngüsü şaşkınlık yaratıyor.

Bir demokratik algoritmik sistemde, yapay zekanın hem tartışmayı hem de karar almayı şekillendirmesi göz önüne alındığında, siyasi kararların rolü nedir?

Yapay zekada karar süreci, tasarım, veri ve kullanıcı etkileşimini içerir; anahtar, insanların ne zaman, nasıl ve neden müdahale etmesi gerektiğidir. Bu sistemleri tasarlayanların çeşitliliğinin az olması, özellikle kadınların az temsil edilmesi, önyargılara yol açabilir. Bir örnek, yüz tanıma sisteminin, önyargılı eğitimlerle, siyah kadınları orangutanlarla karıştırmasıdır. Yapay zekayı daha fazla çeşitlilikle beslemek çok önemli; İspanya’nın İspanyolca ve resmi dillerdeki IA çalışmaları [ALIA], şu anki Anglo merkezli yaklaşıma karşıdır ve insan etkileşimini denetleyerek, demokratik değerlerle uyumunu sağlamaya çalışır; bunu Algorithm Watch ve AESIA (İspanya Yapay Zeka Denetleme Ajansı) yapıyor.

İnsan gibi yapay zekanın olması istenmez mi? Kontrol edebilir miyiz?

Havacılıkta, Wright kardeşler, kuşları taklit etmek yerine aerodinamiği incelemeleri gerektiğini gösterdi. Aynı şekilde, yapay zekada da, insan zekasını taklit etmek yerine, hesaplama gücü ve büyük veri yönetim kapasitesinden faydalanmak gerekir. Açık veriler ve ikili çözümlerle iyi çalışır, ama karmaşık veya belirsiz sorunlarda, insanlar vazgeçilmezdir.

Yapay zekayı uygun şekilde kontrol edecek bir kavram henüz bulamadık: ya çok fazla esneklik tanırız, değerleri riske atarız, ya da aşırı kontrol uygularız, bu da öğrenmesini engeller. Avrupa Yapay Zeka Yasası doğru yönde ilerliyor, ama hâlâ genel bir taslak. 1868’de Birleşik Krallık’ta, kazaları önlemek için bir kişinin kırmızı bayrakla önünde yürümesi gerekiyordu; burada da hız ve güvenliği birleştirmek önemli, modern araçlar veya ABS gibi teknolojiler, panik halinde ani fren yapmanın risklerini azaltır.

Avrupa düzenleyici perspektifini dayatmak için meşruiyetimiz nedir?

İdeal olan, etik, politik ve demokratik standartlar konusunda küresel bir anlaşma sağlamak, ama farklı kültürlere sahibiz. İklim değişikliği gibi, acil olduğunu biliyoruz, ama kısmi anlaşmalarla ilerliyoruz. Avrupa standartları diğer aktörleri de etkiliyor. Ayrıca, IA ve ekoloji iç içe geçiyor çünkü bu teknolojinin enerji tüketimi çok yüksek ve uluslararası iklim gündeminin bir parçası haline geldi.

İnsan olmayan dijital yerli kişiler tarafından hazırlanan yapay zeka düzenlemeleri, yeni nesillerin risk ve faydaları hakkındaki algısıyla farklılık gösterdiğinde, ne anlama gelir?

Dijital dönüşüm sadece yönetimleri dijitalleştirmek değil, toplumun tamamını dönüştürmektir. Bu kadar büyük bir dönüşüm demokratik ve kapsayıcı olmalı, tartışmaları açmalı, eleştiriye izin vermeli ve nesiller, ekonomi, coğrafya ve kültür farklarını dikkate almalı. Çeşitliliği görmezden gelerek yönetilemez: dijital yerliler, yaşlılar, göçmenler, kırsal kesim sakinleri… Bu, bir sınavdır: kapsayıcı bir teknoloji mi geliştireceğiz, yoksa bölüp dışlayacak mı? Dijitalleşmenin, Fransa’daki sarı yelekliler protestolarında görüldüğü gibi, dışlayıcı bir araç olmasını engellemeliyiz.

La era de la revancha’da, Andrea Rizzi, nükleer enerji gibi yapay zekayı yönetmek için küresel bir kurum öneriyor, OIEA gibi. Güvensizlik ortamında bunu nasıl yapabiliriz?

O dönemde yaşıyoruz ve küresel kurumlar ideolojik veya jeostratejik nedenlerle sorgulanıyor. “Kendini kurtar” ve sıfır toplamlı oyunlar egemen; bu da güçlü bir uluslararası yönetişimi zorlaştırıyor. Bugün, kazan-kazan modeli ne yazık ki yok. Bu bağlamda, pandemi iki uçlu etkiler yarattı. Olumlu yönde, Avrupa’da işbirliğine dayalı bir yanıt geliştirdi, dayanışma mekanizmaları kurdu, örneğin Next Generation fonları, 2008’de hayal bile edilemezdi. Olumsuz yönde ise, eşitsizlikleri derinleştirdi; online eğitim, okul ortamından kopardı öğrencileri ve kırılganlık ve toplumsal huzursuzluk yarattı, otoritelere, göçmenlere ve diğer ülkelere güvensizlik arttı, bu da bazı aşırılıkların yükselmesine neden oldu.

Bu güvensizliğin sonuçları nelerdir?

Artık vatandaşlar daha eleştirel bir bakış açısına sahip, bu da demokratik bir gelişme olarak görülebilir. Ancak, şeffaflık fikrinin fazla abartıldığını düşünüyorum ve görsel kültürümüzün yanlışlıkla, görmenin anlamakla eşdeğer olduğunu varsaydığını düşünüyorum. “Şeffaflık” dediğimizde, sadece “kutuğu içini görmek” değil, açıklanabilirliğe odaklanmalıyız: göstermek yeterli değil, anlaşılır hale getirmek gerek, çünkü günümüz teknolojik sistemleri o kadar karmaşık ki, ancak güvenilir kamu kurumları aracılığıyla doğru şekilde değerlendirilebilirler.

Algoritmaların kutuplaşmayı ve dezenformasyonu teşvik edenlerine nasıl karşı koyarız?

Az kaynaklı bir bilgi ekosisteminden, çok kaynaklı bir ortama geçiyoruz; burada en büyük zorluk, güvenilir olanı ayırt etmek. Bu bolluk, faydalı ve demokratik olsa da, aşırılığı teşvik eden, kutuplaşmayı artıran ve moderasyonu cezalandıran algoritmalarla bozuluyor. Ancak, algoritmaları düzenleyerek, demokratik kültüre uygun dinamikler teşvik edilebilir; AB bunun örneğidir.

Yapay zekanın telif haklarıyla çatışması nasıl aşılır?

Avrupa, telif hakları ve gizlilik konusunda öncüdür, ama denge karmaşık. İnsan yaratıcılığının büyük bir kısmı, başkalarının yaratıcılığını yeniden düzenlemekten ibarettir; bizler, düşündüğümüz kadar yaratıcı değiliz. Bu, intihali haklı çıkarmak değil; bazı sınırlar açık, ama diğer durumlarda, neyin özgün, neyin tekrar olduğunu ayırt etmek zor; çünkü, dizi senaryoları veya popüler kitaplar gibi, çoğu zaman basit veya orijinal olmayan ürünler kültürümüzde yaygındır.

Sağlık gibi alanlarda yapay zekanın devrim yaratması, eğitim ise geride kalıyor. Öğretmenlere ve size genel olarak ne söylersiniz?

Sağlık (veya hukuk) alanında, toplumun beklentileri ile ezberci, tekrar eden ve az yaratıcı eğitim arasındaki fark çok belirgin. Sağlık ve adalette, deneme yapmıyoruz, ama daha bütünsel bir eğitim gerekli.

Genel olarak, öğretmenlere şunu söylerdim: artık sadece bilgi aktaran değiliz. Google var olduğundan beri, bu işlev önemsiz hale geldi, öğrenciler artık bilgi bulmak için bize ihtiyaç duymuyor. Onlara ne katkıda bulunabiliriz ki, kendi araçlarıyla bulamasınlar? Soruları doğru formüle etmelerine yardımcı olabiliriz –çünkü aramak kolay veya doğal değil– ve gerçekten aradıklarını bulmalarını sağlayabiliriz. Google, sadece bilgi toplamada bizimle yarışıyor, en yaratıcı öğretim kısmında değil.

Kaynak: Aser G. Rada / Agencia SINC / CC By

Fotoğraf: Juantxo Egaña / CC By-sa