Yapay Zeka İmparatorluğunun Devrilmesi

Gelişmiş yapay zekâ teknolojilerinin geliştirilmesi için süren teknokratik-otoriter yarış tam hız devam ederken, Silikon Vadisi'nin düzenleyici gündemler üzerindeki etkisi birçok devletle yarışıyor – hatta bazen onları geçiyor. Ancak, küresel süper güçler ve yapay zekâ devleri arasındaki rekabetin ortasında Avrupa'nın daha iyi bir şeyler arama fırsatı var. Ödüllü gazeteci ve yazar Karen Hao ile röportaj.

Alessio Giussani: Yapay zekâ geliştirme modelinin şu anki durumu için birçok metafor öne sürüldü – örneğin bir papagan veya bir ayna. Neden özellikle imparatorluk metaforunu seçtiniz?

Karen Hao: Bence bu metaforlar son derece faydalı. "İmparatorluk" üzerine odaklanıyorum çünkü sadece teknik araçları ve onların toplumda nasıl kullanıldığını değil, aynı zamanda üretimini ve bu üretim için aşırı ekonomik ve politik güç biriktiren aktörleri de inceliyorum.

Bu sistemi imparatorluk olarak adlandırmamın dört ana nedeni var. Birincisi, bu şirketler, kendilerine ait olmayan kaynaklara ihtiyaç duyuyorlar: bireylerin verileri ve yazarların, yaratıcıların çalışmaları gibi. İkincisi, işgücünü aşırı sömürerek, hem üretim sürecinde ve tedarik zincirinde sömürülen çalışanlara hem de teknolojinin uygulanması sırasında iş hakları kısıtlananlara karşı büyük ölçüde sömürü yapıyorlar.

Üçüncü açı ise bilgi kontrolü. İmparatorlukların genişlemesinin temel özelliklerinden biri, tüm bilgi üretimini ve bilgiyi kendi amaçları doğrultusunda filtrelemek ve bu da yapay zekâ şirketleri tarafından aynen yapılmakta. Bu şirketler, bilimsel araştırmaları finansal olarak destekleyerek ve merkezi bir portal kurarak, herkesin dünyayla bağlantı kurduğu, eğitim de dahil olmak üzere, bir bilgi teknolojisi altyapısı inşa ediyorlar.

Son olarak, tüm bunları bir medeniyet misyonu içine sarıyorlar. Bu çalışmalarını, insanlığa sonunda bizi ütopya haline getirecek bir teknolojiyi sunmak için yaptıklarını iddia ediyorlar. Eğer "kötü adamlar" – genellikle Çin anlamında – önümüzde geliştirilirse, distopik bir duruma sürükleneceğimizi söylüyorlar. Bu, eski imparatorluklarda da sıkça görülen bir dini anlatı biçimi.

İnsanlar, sizin tarif ettiğiniz gibi, yapay zekâ imparatorluğu sadece bir şirketle sınırlı değil; bu bir sistem, bir mantık. OpenAI ve CEO'su Sam Altman’a odaklanmanızın arkasında ne yatıyor?

Bir yanıt, insanların somut hale getirmelerine yardımcı olacak hikayelere ihtiyaç duymasıdır; çünkü aksi takdirde soyut kalan fikirlerdir. Ama OpenAI özellikle ilginç çünkü sektör normlarını değiştiren ve imparatorluk kurma yönüne yönlendiren önemli kararlar aldı. OpenAI, her şekilde büyümeye karar verdi, büyük dil modelleriyle çalıştı ve onlara sohbet robotu tarzı bir arayüz geliştirdi. Bugün kamuoyunun yapay zekâ ile ilişkilendirdiği hemen hemen her şey, ilk olarak OpenAI’nin kararlarıyla şekillendi.

Bu hikayeyi anlatırsak, yapay zekanın kaçınılmaz olmadığını çok daha net göreceğiz çünkü bu kararları, değerleri, dünya görüşleri ve kişisel intikam arzuları temelinde gerçek insanlar aldı – yapay zekanın gelişim yolunu gerçekten belirleyen ne olursa olsun. Sam Altman’ın ideolojileri sadece soyut anlamda değil, modelin içine de nüfuz ediyor. Sıkça "Modeller, yaratanlarını yansıtır" klişesini duyarız, ama ben bunun aslında nasıl gerçekleştiğini göstermek istedim. Bu, şirketler, insanlar ve ekonomik ve ideolojik çevreler hakkında ve bunların içinde yer alanlar hakkında bir durum.

Bu teknolojiler giderek daha verimli hale gelirken, uygulamalarını kontrol etme konusu varoluşsal bir mesele haline geliyor. Büyük Teknoloji şirketleri Trump’ın ikinci göreve başlama töreninde eğildi, ama yapay zekâ alanında faaliyet gösteren şirketlerin CEO’larının hükümetle giderek daha fazla çatıştığını görüyoruz. Son söz kimin olacak – devletin mi yoksa özel şirketlerin mi?

Süreç, kararların kim tarafından alınacağı mücadelesi. Washington ve Silikon Vadisi arasındaki ilişki, konfor ittifakı olarak görülse de oldukça gergin. İki farklı imparatorluk modeli temsil ediyorlar, her biri kendi imparatorluk planlarıyla. Her ikisi de genişlemeye çalışıyor ve başka ülkelerden alanlar devralmak istiyorlar, ama Trump yönetimi yapay zeka şirketlerini devletin imparatorluk hedeflerinin araçları olarak görüyor. Silikon Vadisi ise Trump yönetimini kendi imparatorluk arzularının araçları olarak görüyor, ama aslında aynı frekansta değiller çünkü ikisi de en yüksek otorite olmak istiyor.

Bazen Amerikan hükümeti hâlâ egemen olduğunu gösterdi – Trump ve Musk çatıştığında Musk’ı kovdular. Ama Pentagon, Anthropic ile çatışmaya girdiğinde, şirketin daha güçlü taraf olduğunu gösterdi: Savunma Bakanı Pete Hegseth, "nükleer seçenek" önerdi ve şirketi tedarik zinciri riski olarak tanımlayarak, Anthropic’ı itaat ettirmeye çalıştı – son çare olarak, şirket ise boyun eğmedi. Utanç verici şekilde, Savunma Bakanlığı, hükümetin şartlarına uymayan özel bir aktöre derin bağımlı hale geldi ve hükümet hiçbir şey yapamıyor.

Her iki imparatorluk aktörünün de hesap verebilir olması gerek, ve bu hesap verebilirlik hiçbiri tarafından değil, halktan gelmeli. Dünyanın dört bir yanında, özellikle Amerika’da, yükselişte olan, aşağıdan yukarıya inşa edilen, halkın katılımıyla oluşan bir örgütlenme var. Bu konfor ittifakı ne kadar görünürde sağlam olsa da, aslında oldukça kırılgan ve zayıf noktalarına daha fazla baskı yaparak çöküşünü hızlandırma şansı var.

Yapay zekâyı, iyi ve kötü arasındaki küresel rekabet olarak görmek yerine, toplumun geleceği hakkında ne düşündüğümüzü düşünmeliyiz.

Yapay zekâ geliştirme alanındaki mevcut durum, rakip şirketler ve küresel süper güçler arasında bir dip nokta yarışına benziyor. Çin ile sürdürülen jeopolitik rekabetin, yapay zekanın şu anki zor durumuna nasıl katkıda bulunduğunu düşünüyor musunuz?

Çin, Silikon Vadisi’nin on yılı aşkın süredir oynadığı bir kart ve neredeyse Çin’den çıkarıldığından beri. Ama bu argümanın önceki sonuçlarını incelediğimizde, gerçekte her zaman Silikon Vadisi’nin öngörülerinin tam tersi olan gelişmeler olduğunu görebiliyoruz.

İddia ediliyordu ki, Silikon Vadisi şirketlerinin düzenlenmemesi ve Çin’in ihracat kısıtlamaları yoluyla düzenleme yapması, Amerikan teknolojisinin dünya çapında hakim olmasını sağlayacaktı. Ama TikTok en popüler sosyal medya platformu ve Çin’in açık kaynak yapay zekâ modelleri de giderek daha popüler hale geliyor dünya genelinde, ABD’de de. Ayrıca, Silikon Vadisi’nin hakimiyetinin küresel liberalizasyonu teşvik edeceği söylenmişti, ama bu da gerçekleşmedi; etkileri tam tersi oldu, derinlemesine otoriterleştirici. Demokratik kurumların ciddi şekilde erozyonuna ve demokrasinin hızla gerilemesine tanık olduk, bu süreçte Silikon Vadisi platformları ve yapay zekâ teknolojileri de rol oynadı.

Yapay zekâyı, iyi ve kötü arasındaki küresel rekabet olarak görmek yerine, toplumun geleceği, bu geleceği destekleyecek yapay zekâ teknolojileri ve bunların gerçekleştirilmesi için ihtiyaç duyulan kaynaklar üzerine düşünmeliyiz. Silikon Vadisi’nin belirlediği yarışta değil, korumak istediğimiz değerler ve vizyonlar temelinde yarışmalıyız. Ve bence Avrupa, dünyaya üçüncü bir yol gösterebilir; ABD ve Çin’den farklı, yeni kurallar koyan bir yol.

Avrupa Komisyonu yakın zamanda kendi teknolojik egemenlik paketini kabul etti; bu, Avrupa’nın kendi teknolojik yolunu çizme çabasının bir parçası. Bu gelecek vizyonunu, Avrupa’ya gözetim odaklı, oligarşik bir iş modelinin Avrupa versiyonunu değil, nasıl anlatmalıyız?

Avrupa’nın takip etmesi gereken ana rehber yıldız, egemenlik için değil, bu egemenliği elde etmek için olmalı. Avrupa – ya da en azından büyük bir kısmı – dünyadaki son demokrasi kalesi. İnsan haklarını ve özgürlükleri destekliyor, ve bu değerleri ilerletmek için teknolojik egemenliğe ihtiyacı var. Çok otoriter biçimlerde geliştirilen ve Avrupa toplumlarını zayıflatmaya çalışan sistemlere bağımlı kalmaya devam ettiği sürece, değerlerini sürdüremez.

Egemenlik kavramı, sadece amaçsızca anlamaya başlarsak, bulanıklaşmaya meyillidir. Ama bu, ulaşmak istediğimiz bir hedefe ulaşmak için bir araç olmalı.

Bu alternatif gelecek vizyonunu inşa etmek için hangi koalisyonlardan, çıkar gruplarından veya çatışma alanlarından başlamalıyız?

İlk olarak, yapay zekâ yönetimini daha geniş anlamda kavramalıyız. Örneğin, çalışan haklarının güçlendirilmesi ve sivil toplumun korunması da yapay zekâ yönetiminin bir parçasıdır. Öğrencilerin, öğretmenlerin ve sağlık çalışanlarının da masada oturması, yapay zekânın toplumda nasıl geliştirilip uygulandığını şekillendirmeye ve sorgulamaya yardımcı olmalı. Eğitim, anahtar önemde; hem sektörler olarak, hem de dahil edilmesi gereken koalisyonlar olarak, hem de yapay zekâyla ilgili toplumsal farkındalığı artırmak açısından.

Bir diğer önemli nokta, yapay zekâ araştırmacılarına ve girişimcilere finansman sağlamak, geliştirme detaylarını ve uygulama biçimlerini keşfetmek. Ama onlara sadece para vermek yeterli değil; toplumun diğer kesimlerine de söz hakkı tanımak gerek. Aksi takdirde, ABD’de karşılaştığımız sorunları tekrar ederiz, yani kararları esasen teknokratlar veya teknokonsvervatifler alır.

Başlangıçtan sıfırdan başlamıyoruz. Toplumun ulaşması gereken ortak hedefleri belirlemek için çok sayıda çalışma yapıldı. Örneğin, sürdürülebilir kalkınma hedefleri gibi. Bu, yapay zekâ alanında inovasyonu finanse etmek için bir başlangıç noktası olabilir.

Mevcut yapay zekâ teknolojileriyle ilgili anlatımlar oldukça kutuplaşmış durumda. Bir yanda, bu teknolojilerde pek yeni bir şey olmadığını ve balonun yakında patlayacağını söyleyenler var. Diğer yanda ise, yapay zekanın hayatımızı dönüştüreceği, tedarik zincirlerini devrim yaratacağı ve hepimizi gereksiz hale getireceği görüşünde olanlar var. Bu farklı görüşler hakkında ne düşünüyorsunuz?

Doğru, birçok kişi avantajları abartmaya eğilimli, teknolojilerin maliyetlerini göz ardı ediyor veya maliyetleri fazla vurguluyor, faydaları görmeden. Ama bence, yapay zekanın avantajlarından yararlanmak istiyoruz, ama bu, yaşam kalitemizden ödün vermeden olmalı – iyi sağlık hizmetleri, ekonomik fırsatlar, sağlıklı çevre ve gelişen bir gezegen gibi. Bu en dengeli yaklaşım olur.

Yapay zekâ (YZ), birçok farklı teknolojiyi kapsayan bir terim, bu yüzden hangi alanlara yatırım yapacağımızı ve hangi yeni teknolojileri geliştirmek istediğimizi dikkatlice düşünmeliyiz, çünkü her biri farklı tavizler getiriyor; bunlardan bazıları, inşa etmek istediğimiz gelecek ile uyumlu, bazıları ise değil. Akıllıca seçimler yapmalıyız.

Yapay zekâ (YZ), çeşitli teknolojileri ifade eder, bu yüzden hangi alanlara yatırım yapacağımızı ve hangi yeni teknolojileri geliştirmek istediğimizi dikkatlice düşünmeliyiz.

Mevcut yapay zekâ araçlarıyla ilişkiniz nedir?

Üç ana nedenle kullanmıyorum. Birincisi, etik duruşum nedeniyle. İkincisi, gizlilik konusundaki görüşüm nedeniyle: bu şirketleri inceliyorum ve bunlar, sonunda keşfedilen en etkili gözetleme teknolojileri. Üçüncüsü, bu araçlar, yaptığım işi yapmak için ihtiyaç duyduğum özel beceri setine pek uygun değil.

Herkesin aynı şeyi yapması gerektiğini söylemiyorum. Birçok kişi bu araçlardan açıkça faydalanıyor veya mesleki rolünün bir parçası olarak kullanmak zorunda. Ama şu anki soruna en iyi çözüm, geçmişte moda gibi diğer sektörlerde yaptığımız gibi, aynı şeyi yapmaktır. Giysilerimizin büyük kısmını gerçekten korkunç koşullarda ürettiklerini fark ettiğimizde, sadece giysilerden kurtulmadık. Birçok tüketici ve çalışan örgütü, hükümet düzenlemesi ve genel kamuoyu tepkisi, sektörü dizginlemek için gerekliydi. Moda sektörü hâlâ mükemmel değil, ama en azından alternatifler var ve tüketiciler, bütçeleriyle hangi tedarik zincirini ve şirket uygulamalarını destekleyeceklerine karar verebiliyorlar.

Aynısını yapmamız gerekiyor yapay zekâ ile de. Şu an kullanıcılar için yeterli alternatif yok ve bu durumun değişmesi için daha fazla çalışan örgütlenmesine ve daha geniş bir kamu direnişine ihtiyaç var. Bu teknolojilerin kullanımından kaçınabilenler, kesinlikle boykot etmeli ve hükümetler, yeni pazarlar oluşturmak için müdahale etmeli.

Tüketicilerin önemli bir etkisi var, ama bu tek değil. İnsan olarak, birey olarak, çalışan, eğitici ve vatandaş olarak bu rolleri yapıyoruz ve yapay zekâ geliştirmesini iyileştirmek için bu rolleri nasıl kullanabileceğimizi düşünmeliyiz.