Yapay zeka ve akademi korkuları

Eylül başında yeni GPT-6 Astra modelinin tanıtımı sırasında OpenAI şirketi genel yapay zekanın ortaya çıktığını duyurdu. Bu, bu teknolojinin gelişmişlik seviyesinin, dil modellerini insanın zihinsel yeteneklerine yaklaştıracak kadar ilerlemiş olması anlamına gelir.

Her ne kadar bu deklarasyon AI alanındaki uzmanlar tarafından şüpheyle karşılanmış olsa da, sonraki gelişmeler yapay zekanın potansiyel imkanları etrafındaki heyecanı artırdı. İlk olarak OpenAI, dil modelinin bir “milenyum problemi”ni çözdüğünü açıkladı (yani, temel bilimsel öneme sahip matematiksel bir sorunu). Sonra sosyal medyada yeni bir bilgi yayıldı: aynı problemi çözmeye yakın olan ve GPT modellerini kullanan matematikçiler, OpenAI tarafından duyurulan bu dönüm noktasının onların çalışmaları sayesinde gerçekleştiğinden endişe etti.

Ayrıca, bir süredir medyada eski çalışanların, OpenAI tarafından geliştirilen modellerin tehlikeli olduğu ve gelecekte, tam bağımsız ve insan kontrolünden uzak sistemler olarak, insanlığa tehdit oluşturabileceği yönündeki açıklamaları giderek daha sık görülüyor.

Yapay zekanın gelişimiyle ilgili tehditler hakkında gerçekten çok şey yazıldı. Bu alandaki ilerleme, büyük miktarda enerji ve su gerektiren dil modeli eğitim merkezleri nedeniyle ciddi bir çevresel iz bırakıyor. Ayrıca, kullanıcıların istedikleri her şeyi – aile fotoğraflarından tıbbi sonuçlara kadar – dil modellerine yüklemesiyle, gizlilik soruları da yanıtsız kalıyor. Tüm bunlar, büyük teknoloji şirketlerinin kullandığı devasa veri magmasına dönüşüyor.

Bazen daha az, bazen daha ciddi güvenlik ve gelecek soruları gündeme geliyor – böyle güçlü bir teknolojiyi, kimsenin kontrolü altında olmayan özel şirketler tarafından geliştirilirken, kontrol sistemleri nasıl uygulanmalı?

Bir sosyolog olarak bu tehditleri değerlendirebilmem mümkün değil. 10 yıl sonra Terminator tarzı bir dünyada uyanıp uyanmayacağımızı bilmiyorum. Kontrolsüz AI gelişiminin dil modelleri tarafından dünyayı ele geçirmesine yol açacağı uyarılarının gerçek süreçlere mi dayandığını, yoksa sadece bilimsel ve teknolojik devrimler dönemine özgü bir teknoloji korkusunun ifadesi mi olduğunu ayırt edemiyorum. Ancak, bu korkuların doğasını sorgulayabilirim çünkü bunlar, teknolojik gelişimin toplumsal duygular üzerinde yarattığı etkiler hakkında bize çok ilginç bilgiler veriyor.

Yapay Zeka ve Akademi

Bu konu o kadar ilginç ki, birkaç hafta önce Polonya’da kendi AI tartışmamız vardı – yani (başarısız) Polaklar portresi raporu ve Prof. Barbara Mroż-Gorgoń ile ilgili olay. Bu olayın tepkilerinin ve duyguların yoğunluğu şaşırtıcıydı. Geleneksel internet linçine ek olarak (bu “geleneksel” diyorum çünkü kutuplaşmış sosyal medya çağında böyle tepkiler artık yeni değil), akademik çevrelerden de yoğun eleştiriler geldi. Polonya üniversitelerinin başkanlarını temsil eden Konferans Rektörleri sözcüsü, Prof. Mroż-Gorgoń’dan özür dilemesini talep etti ve onun, “dünyadaki ikinci profesörün” yapay zekayı kullandığını söylemesini uygun bulmadı. Sosyal medya forumlarında da akademik temsilcilerden gelen birçok eleştiri vardı, hatta bazıları Polonya biliminin utanç verici durumda olduğunu bile dile getirdi.

Neden bu kadar sert eleştiriler? Bu soruya cevap verebilmek için, yapay zekanın, bilgi üretimi alanı ve bu bilgiyi üreten bilim insanları perspektifinden ne olduğunu anlamamız gerekir.

İşte bu noktada, AI’nın bir araç olduğunu söyleyenler, onun işi kolaylaştıran bir araç olduğunu savunur. Ben de, dil modellerini kullanıyorum – özellikle literatür taraması yaparken, bu süreç zahmetli ama zorunludur, çünkü saygın İngilizce bilim dergilerinde yayın yapmak istiyorsanız. Dil modelleri bu süreci önemli ölçüde hızlandırıyor, ücretli versiyonları artık neredeyse hiç halüsinasyon yapmıyor ve ilgilendiğim konuda bilimsel makaleleri seçebiliyorlar, böylece onlarca makaleyi okumak zorunda kalmadan, sadece birkaç uygun olanı bulabiliyorum. Yapay zeka, ayrıca, yazdıklarımı İngilizceye çevirmemi de sağlıyor, bu da, yarı-periferik bilim alanında çalışan biri olarak, merkez ülkelerden İngilizce konuşan bilim insanlarıyla rekabet etmek için önemli bir avantaj.

Bilimde yapay zekanın kullanımıyla ilgili başka, pek de tartışmalı olmayan uygulamalar da var; örneğin, veri toplama otomasyonu (örneğin, diskur analizleri yapanlar için internet sitelerinden veri toplama) veya ön analizler ve derinlemesine analizler (örneğin, ön kategorik anahtarlar ve nitel verilerin kodlanması). Dil modellerini, araştırma başvurusu yapanlar da kullanıyor – AI, bu başvuruları nasıl yazacağınıza dair önerilerde bulunarak, başarı şansını artıran bir asistan gibi iş görüyor.

Eleştirmenler, dil modellerinin aşırı kullanımının, bilimsel üretimde önemli bir artışa yol açtığını vurguluyor. Bir analizde, AI araçlarını kullanan bir bilim insanı, ortalama üç kat daha fazla bilimsel makale yayımlıyor ve dört kat daha fazla atıf alıyor. Bir başka çalışma ise, 2022-2025 yılları arasında prestijli Marie Sklodowska-Curie Programı’na yapılan başvuruların sayısında önemli bir artış olduğunu gösteriyor. Bu da, bilim insanlarının makale veya proje yazarken daha kolay olmalarına rağmen, artan rekabet nedeniyle, bu çalışmaların yayınlanması ve fon alınmasının giderek zorlaştığını gösteriyor.

En iyi bilim dergileri, en prestijli fon ajansları, iyi yazılmış başvurularla dolup taşıyor. Bu artan bilgi arzına rağmen, talep artmıyor. En iyi dergiler aynı sayıda makale yayımlamaya devam ediyor, ajansların bütçeleri de değişmiyor; bu nedenle, başarı oranı (kabul edilen makale veya proje sayısının reddedilenlere oranı) sürekli azalıyor.

Ayrıca, hakemlik süreci, bilimsel yayıncılığın temel faaliyetlerinden biri, giderek zorlaşıyor. İyi araştırmaların, diğer uzmanlar tarafından doğrulanması ve geniş kitlelere sunulması gerekir. Çift kör hakemlik (double-blind peer review), yani anonim değerlendirme, çoğu bilim alanında standarttır. Ancak, bilimsel yayınların artmasıyla, bilim insanlarının, makaleleri dikkatli okuyup, objektif değerlendirmeler yapıp, detaylı geri bildirim yazması giderek zorlaşıyor.

Öte yandan, dil modellerinin, sadece makale yazımında değil, aynı zamanda değerlendirmede de kullanıldığına dair kanıtlar var. Yani, yapay zeka, bilim insanlarının yerine makale yazıyor ve sonra da bu materyalleri değerlendirmede onların yerine geçiyor.

Bilimde Prestij

Tüm bu olumsuz gelişmeler, Prof. Mroż-Gorgoń’un eleştirmenleri tarafından dile getirilen endişeleri kesinlikle yansıtıyor. Onların iyi niyetlerini sorgulamıyorum. AI gerçekten bilim için büyük bir tehdit olabilir ve araçlarını çok dikkatli kullanmak gerekir. Raporun ortak yazarı üzerine gelen eleştirilerin büyük kısmı haklıdır. Ancak, bu tepkinin aşırılığı ve belki de tamamen farkında olunmayan bir korkuyu gizliyor – bu, teknolojik gelişmenin doğrudan sonuçlarından değil, prestij kaybı korkusundan kaynaklanıyor.

Benim varsayımım şu: Eski hükümet sözcüsünün raporu ile ilgili olayda ortaya çıkan duygular, akademik prestij kurallarındaki köklü değişim korkusunun ifadesidir.

Dışarıdan bakıldığında, bilim insanlarının yaptığı şey, hepimizin daha iyi yaşaması içindir. Bilgi, tüm insanların çıkarına hizmet etmeli (örneğin, daha uzun, sağlıklı ve konforlu yaşamamız için). Sosyolog Robert K. Merton’un ideal tipinde, akademik etiğin unsurları arasında, ortaklık ve çıkar gözetmeme yer alır; yani, bilginin tüm insanlığın ortak mirası olduğu ve bilimsel faaliyetlerin, gerçeklik arayışından başka bir motivasyonla değil, bu arayışın peşinden gitmesi gerektiği inancı. Ancak bu, büyük ölçüde idealleştirilmiş bir resimdir ve birçok Merton eleştiricisi tarafından da vurgulanmıştır.

Elbette, bilim insanlarının insanlık yararına araştırmalar yaptığına inanıyorum. Ama esas önemli motivasyonlarının, bireysel prestij olduğunu da kabul ediyorum. Bu, belki de, bilim dünyasında en önemli “para birimi”dir. Bir başka, daha gerçekçi sosyolog Pierre Bourdieu’ya göre, bilimde de diğer sosyal alanlarda olduğu gibi, güç, prestijle ilgilidir. Güç, ise, prestijle ölçülür; bu da, saygın dergilerde yayınlar, prestijli fon ajanslarından projeler almak ve atıf sayısı gibi unsurlardan oluşur.

Bu şekilde kazanılan prestij, daha sonra başka kaynaklara çevrilebilir (örneğin, yüksek prestijli bir bilim insanı daha çok kazanabilir) veya, kendi sermayesini kullanarak, akademi dışı alanlarda da başarılar elde edebilir (örneğin, yüksek prestijli bir bilim insanı medya otoritesi olabilir veya siyasete katılabilir). Aynı zamanda, prestij gibi bir para birimini biriktirmek, çok zor ve fedakârlık gerektiren bir süreçtir; kişisel fedakârlıklar da buna dahildir. Öte yandan, yüksek prestije sahip bilim insanları, zaten büyük prestij kazanmış olanlar, daha kolay ve hızlı hedeflerine ulaşabilirler.

Bu tür bir prestij için, bilimsel bir başarının belirli bir kişiye ait olması çok önemlidir. Prestij, her zaman belirli bir bilim insanına ait olmalıdır; aksi takdirde, para birimi anlamını yitirir. Bu nedenle, bilim insanları, başarıyı belirli bir isme atfetmeye büyük önem verirler – tarih, bir makale, keşif veya patent üzerindeki öncelik tartışmalarını da iyi bilir. Ayrıca, bilimsel yayınlarda yazar sıralaması da bu mekanizmanın bir parçasıdır; ilk sıradaki her zaman en çok prestij kazanır, ikinci biraz daha az, ve devam eder. En az birkaç kez, kimin öncelikli olması gerektiği konusunda yoğun tartışmalara tanık oldum.

Milenyum problemi çözümündeki öncelik tartışması da buna iyi bir örnektir. Aslında, bu öncelik kimde olursa olsun, önemli olan, bilginin artışıdır. Ama ne yazık ki, bilimde mesele sadece bu değil. Bilim insanlarını büyük ölçüde motive eden şey, adlarını tarihe yazdırmak ve önemli bir şey başarmaktır. Bunu nasıl değerlendirdiğimiz önemli değil, ama çoğu zaman böyle olur.

Prestij Oyunundaki Değişim

Aslında, dil modellerinin geniş çapta kullanımı, akademik prestij kurallarını yeniden tanımlıyor. AI, makale, proje ve atıf gibi prestij göstergelerinin çok daha hızlı kazanılmasını sağlıyor. Daha önce, en iyi dergilere gönderilen makalelerin sayısında büyük bir artış olmadı, ama şu anda, en iyi dergilere gönderilen makale sayısı hızla artıyor. Ayrıca, bilimsel yayıncılık piyasası da bu duruma uyum sağladı – özellikle, günde onlarca makale yayımlayan, hızlı hakemlik süreçleri ve yüksek atıf oranlarıyla bilinen “kombi dergiler” giderek daha popüler hale geliyor. MDPI veya Frontiers gibi yayınevleri, AI destekli bilim için doğal bir ekosistem haline geliyor.

Yapay zekanın bilimsel çalışmalarda kullanımı, başarı yolunu daha da kısaltıyor (kaliteyi göz ardı ederek söylüyorum). Geleneksel modelde, prestij kazanmak yavaş ve zordu. Ama AI çağında, bu süreç hızlanıyor. Bir bilim insanı, oldukça kısa sürede, yüksek prestijli kaynaklardan çok sayıda makale ve proje kazanabilir ve bunları farklı alanlarda kullanabilir, böylece, eski kurallarla çalışan meslektaşlarıyla rekabet edebilir.

Tahmin etmek zor değil, bu durum, dil modellerini kullanabilenler ile kullanamayanlar arasında bir çatışmaya yol açar. Birinciler, “kısayol” kullanarak, kendi konumlarını güçlendirebilir; ikinciler ise, çok emek ve zaman harcadılar, bu yüzden, bu yeni kurallara uyum sağlamakta zorlanabilirler. Bu durumu, Prof. Mroż-Gorgoń’un olayına verilen akademik tepkide gördük sanıyorum.

Elbette, Polaków portret własny raporu, AI ile nasıl yapılmaması gerektiğinin güzel bir örneğidir. Ama aynı zamanda, akademik prestij yarışının ve elitlerin yeni kurallara uyum sağlayamayacağının da habercisidir. Prof. Mroż-Gorgoń’un durumu, kaçınılmaz olarak, sadece büyük bir değişimin değil, aynı zamanda, mevcut hiyerarşilerin altüst olmasının da göstergesidir.

Yapay Zeka ve Yabancılaşma Duygusu

AI, ayrıca, “araştırma / patent / keşif / makale”nin kimin tarafından yapıldığı sorusunu son derece karmaşık hale getiriyor; bu da, yukarıda bahsettiğim, akademik prestijin temel unsuru olan, yani yazar olma kavramına darbe vuruyor. Geleneksel modelde, keşifler kolayca kişiye atfedilebilirdi. Ludwik Fleck’ün yaklaşık yüz yıl önce gösterdiği gibi, gruplar ve kolektifler de bilimsel keşiflerin gerçek üreticileridir; ama akademik alan kuralları uyarınca, “ben bu keşfin yazarıyım” demek, prestij yarışında önemli bir hamledir.

Yine, milenyum problemi çözümündeki öncelik tartışmasına bakalım. Bu sorunu ilk çözenin kim olduğu önemli değil; önemli olan, bilginin artışıdır. Ama gerçek şu ki, AI, bu sorunun çözümünde rol alan matematikçilerin de kullandığı modelleri içeriyor. Bu modeller, OpenAI’ye ait; yani, belki de, bilim insanları kendi başarısızlıklarına katkıda bulunmuş oluyorlar.

Kim bu büyük atılımın yazarı? AI’yi kullanan matematikçiler mi? Yoksa, OpenAI’nin sahipleri, belki de matematikçilerin hazırladığı promptları kullanarak modellerini geliştirenler mi? Ya da, yapay zeka kendisi mi? Ama, AI, daha önce insanlar tarafından oluşturulan veriler, bilimsel bilgi ve promptlar da dahil olmak üzere, insan yapımı veriler üzerine kurulu. Ayrıca, promptlar da insanlar tarafından formüle ediliyor.

AI, elbette, insan tarafından modele yüklenen bilgiyi temel alır; yani, sonunda, LLM’nin bize önerdiği fikirlerin sahibi, canlı bir insandır. Ancak, burada, AI’nin ürettiği çok sayıda referans ve bunların hızla benimsenmesiyle ilgili sorunlar da var. Geleneksel akademik çalışmada, başkalarının fikirlerini benimsemek ve kullanmak zaman alır ve, belli bir anlamda, bu, başkalarının bilimsel çalışmalarını kullanan kişinin kendisini dönüştürür. Bir metni alıntılamak için önce onu okumalı, anlamalı ve ilham almalı, sonra da, kendi yaratıcı biçimde kullanmalısın; bu da, düşünce tarzını değiştirir. AI kullanırken, bu süreç büyük ölçüde hızlanır ve, başkalarının fikirlerini benimsemek ve kendi fikrini oluşturmak arasındaki dönüşüm, neredeyse hiç gerçekleşmez. Bu nedenle, başkalarının fikirleri, benim kendi fikirlerim olmadan, benim düşünce dünyama entegre olamaz.

Bence, bu durum, entelektüel üretimin ürününe yabancılaşma duygusu yaratır. Bir makale yazarken, AI düzeltmeler yapıyor veya benim aklıma gelmeyecek geliştirmeler öneriyorsa, bu makalenin yazarı kim olur? AI, benim bilmediğim ve sadece özetlerinden öğrendiğim kavram ve teorilerle oynamaya başlarsa, bunları bilinçli mi kullanıyorum (yani, kendi niyetlerimle uyumlu olarak mı), yoksa, düşüncelerimde başka birinin ipine mi bağlı kalıyorum? Daha önce de belirttiğim gibi, LLM’lerde dolaşan fikirlerin de sahipleri vardır. Ama, AI ile akademik çalışmalarda deneyim, bilim insanlarının kendilerini, özne olma duygusundan mahrum hissetmesine yol açabilir.

AI öncesi zamanlarda, ben bir bilim insanı olarak, düşünür, keşfeder, sunar ve kariyerim boyunca kazandığım prestiji tartışırdım. Ama AI çağında, bu artık o kadar da açık değil. Bu da, varoluşsal sorular sormamıza neden olabilir. Eğer artık sadece ben düşünmüyorsam, sadece ben yazar değilsem, o zaman, belki de, bilim dünyası için artık gerekli değilim? Belki de, gelecekte, yapay zeka modellerinin imkanları şu anki seviyeden çok daha büyük olursa, kendimi gereksiz hissetmenin kaçınılmaz farkındalığıyla karşılaşırım. Bu, entelektüeller için, özne olma ve bireysel yazar olma, prestijin temel unsuru, olmadan, çok ağır bir yük olabilir.

Eski hükümet sözcüsünün olayına geri dönersek, Prof. Mroż-Gorgoń’un durumu, sadece prestij kurallarını değil, aynı zamanda, entelektüel emeğin, bu kurallar çerçevesinde, artık gerek kalmadan, daha ucuz ve kolay araçlara devredilebileceğinin de göstergesidir.

Prof. Mroż-Gorgoń’un utanç verici duruma düşmesine verdiği aşırı tepki, belki de, bireysel yazar olma ve bilim insanı özne olma kavramlarının, gelecekte, AI ile birlikte, tarihsel olarak geçersiz hale geleceği korkusunu yansıtıyor. Bu, sadece bilim insanlarının değil, aynı zamanda, keşiflerin, şirketlere ve AI modellerine de atfedileceği bir geleceğin habercisidir. Ayrıca, kariyerlerin, şu anki kurallara göre değil, yeni kurallara göre inşa edileceği bir geleceğin de habercisidir. Bu gelecekte, düşünce, bilgi ve entelektüel yetenekler, sosyal statü belirleyicisi olmaktan çıkabilir.

Hepimiz Platonuz

Günümüzde, bilim insanlarının nerede durduğunu daha iyi anlamak için, kültür tarihinin önemli bir dönüm noktası olan sözlü anlatımdan yazılı anlatıma geçişe atıfta bulunmak faydalı olur. Yazının icadı ve yaygınlaşması, ticaret, bilim ve politika gibi pek çok toplumsal alanı köklü biçimde değiştiren teknolojik bir devrimdi. Ancak, bu yeniliğin tüm savunucuları değil, eleştirmenleri de vardı. Bunlardan biri de Platon’dur; o, yazının hafızayı bozduğunu ve filozofların, söylediklerinin anlaşılmama riskine maruz kaldığını düşünüyordu (konuşan, söylediklerini savunabilir; yazı ise, bir kez iletişimde kullanıldıktan sonra, yaratıcısının kontrolü dışında kendi yaşamını sürdürür). Platon’un tutumu, sadece basit bir teknoloji korkusu değil, aynı zamanda, mevcut sosyal hiyerarşilerin, geleneksel güç ve bilgi yapılarının, yozlaşma ve değişim korkusunun da ifadesidir; elit bir kesimin, yeni düzenin, eskiye göre daha az değerli olacağı endişesidir.

Prof. Mroż-Gorgoń’un olayına karşı gösterilen sert tepkiler, benzer bir tutumun, Platon’un yazıya karşı tutumunun, bir yansımasıdır. Elbette, AI’nin bilimdeki kullanımı konusunda birçok destekçi var; buna da şüphe yok. Ama, akademik dünyada, aynı zamanda, AI’ye karşı çıkanlar da var; onlar, haklı eleştirilerinin yanı sıra, hem prestijlerini hem de kimliklerinin önemli unsurlarını kaybetme korkusunu taşıyorlar.

Bir yandan, AI, bazı yetkinlikleri zayıflatabilir, tembelleştirebilir ve bizi, kör bir çıkmaza sürükleyebilir. Şu anda, AI’nin kendisinin ürettiği bilgilerin, besin kaynağı haline geldiği ve sistemin, verimsiz bir şekilde çalışmaya başladığı da gösteriliyor. Diğer yandan, hızlı gelişim, korku ve kaygı ile beslenen, durdurulamaz bir reddetme duygusunu da tetikliyor; bu, hem korkunun hem de, mevcut dünyayı altüst eden değişiklikleri durdurma çabasının ifadesidir.

**
Michał Wróblewski – sosyolog, filozof, Toruń’daki UMK Sosyoloji Enstitüsü’nde çalışıyor, tıp sosyolojisi ve çevre sosyolojisiyle ilgileniyor. Şu anda, aşı şüpheciliği ve hava kalitesi aktivizmi üzerine araştırmalar yapıyor. Ayrıca, Kimlerin korkuları? Kimlerin bilimi? Bilgi yapıları ve bilimsel-sosyal tartışmalar (A. Nowak ve K. Abriszewski ile birlikte, Poznan 2016), Sosyoloji ve salgınlar. Toplumsal bilimler perspektifinden ortaya çıkan bulaşıcı hastalıklar (L. Afeltowicz ile birlikte; Toruń 2021) adlı eserlerin yazarıdır.

İçeriğin Yapay Zeka ve Akademinin Korkuları başlığıyla ilk yayımlandı.