Yapay zekadan korkmalı mıyız?
Yakın bir teknolojik devrim olarak müjdelenen yapay zeka (AI), günlük yaşamın her geçen gün daha fazla alanında uygulanmakta ve hem endişe hem de coşku uyandırmaktadır. Destekçiler, yapay zekanın insanlığın karşı karşıya olduğu birçok sorunun çözümüne yardımcı olacağına (ve bu süreçte birkaç yeni milyarder yaratacağına) inanıyor. Muhalifler, insanlardan sonsuz derecede daha hızlı düşünebilen ve hareket edebilen makinelerin yarattığı henüz bilinmeyen risklere işaret ediyor.
Ancak Bath Üniversitesi’nde (İngiltere) Yapay Zeka Profesörü olan Nello Cristianini‘nin de belirttiği gibi The Conversation “Yukarıdaki senaryoların hiçbiri” – ister uzmanlar ister sektör girişimcileri tarafından hayal edilsin – “insan neslinin tükenmesine giden belirli bir yol haritası çiziyor gibi görünmüyor. Bu da genel bir alarm duygusuyla baş başa kaldığımız, ancak atabileceğimiz herhangi bir adımın olmadığı anlamına geliyor”. Bu görüş, Cambridge Analytica skandalının arkasındaki muhbir Christopher Wylie tarafından bu hafta yayınladığımız makalede paylaşılıyor.
Alan Turing Enstitüsü’nden etik araştırmacısı Mhairi Aitken, New Scientist ‘teki bir makalesinde (aboneler için) benzer bir çizgi izliyor. Bu kıyamet uyarılarının “yapay zekanın sonuçlarına ilişkin tartışmalarda belirleyici bir fark yarattığı için korkutucu olduğuna” inanıyor. Kolektif hayal gücünün derinliklerine kök salmış olan bu düşünce “artık siyasi ve düzenleyici alanlara da sızmış durumda. Bunun endişe verici olduğunu belirten Aitken, “çünkü bu alarmcı teorileri destekleyen kanıtlar pratikte mevcut değil ve incelemeye dayanmıyor” diyor. Aitken’e göre bu uyarıların amacı “şeffaflık taleplerini saptırmak ve geliştiricilerin sorumluluklarına ilişkin tartışmayı ortadan kaldırmak”.
Peki Avrupa tüm bunların neresinde duruyor? Avrupa Birliği bir kez olsun konuya eğilmekte gecikmedi ve bir yönetmelik hazırladı. Yapay Zeka Yasası . Avrupa Komisyonu’nun hukuk ve mühendislik departmanlarında araştırmacı olan Francesca Lagioia, 2024 yılında yürürlüğe girecek olan bu yasanın “risk arttıkça üretici tarafından gerçekleştirilecek belgelendirme prosedürlerinin daha sıkı hale getirildiği risk sınıfları öngördüğünü” belirtiyor. Internazionale’ Annamaria Testa. “Risk sınıfları, bu teknolojiler piyasaya sürülmeden ve kullanılmadan ve herhangi bir zarar meydana gelmeden önce, önceden kontroller ve uyum ve sertifikasyon prosedürleri yoluyla bir sistemin güvenilirlik ve güvenlik seviyelerini garanti etmelidir”. Bu sistemin ana sınırlaması konusunda uyarıda bulunuyor: “üreticiler yüksek riskli sistemlerin standartlarına uygunluğu kendi kendilerine değerlendirebilecekler”.
Ayrıca Internazionale Francesca Spinelli , bir dijital özgürlükler kuruluşu olan Access now’da analist olan Caterina Rodelli ile Yapay Zeka Yasası’nın eksiklikleri üzerine bir söyleşi gerçekleştirdi. Rodelli, yüksek riskli sistemlere yönelik temyiz mekanizmalarının, kamu yararına çalışan kuruluşların bir birey adına temyiz başvurusunda bulunmasına izin vermediğine dikkat çekmektedir, zira “yetkililer STK’lar tarafından açılacak davalar karşısında zor durumda kalacaklarından korkmaktadır”. Mevcut metnin, “sığınmacıların ve ‘düzensiz göçmenlerin’ gelişini engellemeye kararlı hükümetler ve kabul kuruluşları arasında çok popüler olan göç tahmin sistemlerini de yüksek risk kategorisinden çıkardığını” sözlerine ekliyor. Altmış kadar insan hakları kuruluşu, kendi paylarına bir AÇIK MEKTUP üzerinde Özgürlükler Platform, Avrupa milletvekillerine YZ Yasası’nın “AB’nin Birliğimizin dayandığı temeli korumak için sağlam güvenceler benimsemesini gerektirmesi” çağrısında bulundu. YZ sistemlerinin kamu yetkilileri tarafından şeffaf olmayan ve hesap verilemez bir şekilde kullanılması da dahil olmak üzere, YZ sistemlerinin kötüye kullanılması hukukun üstünlüğü ve demokrasi için ciddi bir tehdit oluşturmaktadır.” dedi.
Aynı konu hakkında
Üretken yapay zeka yavaş yavaş çocukların hayatına giriyor
Nathalie Koubayová | AlgorithmWatch | 25 Eylül | TR
Amazon, Alexa Echo Cihazı için kendi bünyesindeki büyük dil modelini (LLM) kullanarak çocuklar için uyku zamanı hikayeleri oluşturacak bir özellik geliştiriyor. Sistem, çocukların girdilerine ve cihazın kamerası aracılığıyla karakter tanıma gibi özelliklere dayalı olarak özel hikayeler üretir. Bu girişim, Google ve Apple gibi teknoloji şirketlerinin diğer sesli asistanlarıyla rekabet etmeyi amaçlıyor. Ancak, Amazon’un çocuk dostu yapay zekaya yönelmesi, şirketin daha önce ebeveyn izni olmadan çocukların verilerini yasadışı olarak topladığı için 25 milyon dolarlık bir anlaşmaya dahil olduğu göz önüne alındığında, gizlilik endişeleriyle karşılaştı. Şu anda Avrupa Birliği ve bazı ABD eyaletlerinde daha katı kurallar ile çocuklara yönelik yapay zeka teknolojisini düzenlemek için mevzuat hazırlanmaktadır.
Yapay zeka internet özgürlüğü için bir tehdit
Leonhard Pitz | Netzpolitik | 5 Ekim | DE
Freedom House adlı sivil toplum kuruluşu tarafından hazırlanan Freedom of the Net 2023 adlı rapor, yapay zekanın “internet özgürlüğüne yönelik bir sonraki tehdit olduğunu” ortaya koyuyor “ . Bu teknoloji pek çok ülkede dezenformasyonu arttırmak ve sansürü daha sofistike hale getirmek için kullanılıyor. Yapay zekanın hükümetler tarafından kullanılması ve platformların kendi kendini denetlemesi, internet özgürlüğünün azalmasına neden oluyor. Rapor, insan hakları, şeffaflık ve bağımsız gözetim temelinde düzenleme yapılması gerektiğinin altını çiziyor.
Ayrıca okumaya değer
Thierry Breton Elon Musk’ın arenasında
Markus Reuter | Netzpolitik | 11 Ekim | DE
AB’nin iç pazardan sorumlu komisyon üyesi Thierry Breton, rakip (ve açık) bir ağ olan Mastodon‘daki hesabından sosyal ağ X’in (eski adıyla Twitter) değişken patronuna bir mektup gönderdi. Breton, Hamas’ın İsrail’e yönelik saldırılarının ardından X’te yayılan yanlış bilgilere işaret ediyor ve Elon Musk’a Dijital Hizmetler Yasası’ nın X’in 24 saat içinde yasadışı içeriği kaldırmasını gerektirdiğini hatırlatıyor. Mektubun amacı mantıklı olsa da, Markus Reuter’e göre,“burada AB hukuku üzerinden şov siyaseti, sosyal medyanın duygusal boks ringinde iki adam arasında halka açık bir alışveriş var“.
AB’nin “set menü” üyelik modeli başarısız oluyor. “A la carte” yaklaşımın zamanı geldi
Alberto Alemanno | The Guardian | 10 Ekim | TR
HEC’de Avrupa hukuku profesörü (ve Voxeurop danışma kurulu üyesi) olan ve AB yönetişiminin gözden geçirilmesi çağrısında bulunan bu kişi, başta Ukrayna olmak üzere yeni devletlerin potansiyel AB üyeliğinin, “birliği tehdit edici yeni dünya düzeninde stratejik olarak bağımsız kılmak ve iklim acil durumuna liderlik edebilmek için kaçırılmayacak bir fırsat sunduğunu” söylüyor. Biri Avrupa Parlamentosu diğeri de Fransız-Alman grubu tarafından AB yapılarında reform yapılmasına yönelik iki girişim – olası bir çok vitesli yapı da dahil olmak üzere – entegrasyonu teşvik edebilir ve AB’nin küresel zorluklarla başa çıkmasına yardımcı olabilir.
Harry Bowden tarafından çevrildi
