Yapay zekâ, tutsak ikilemi

Tolga Mırmırık - @mirmirik

Önceki yazımda ülkeler arası yapay zekâ yarışının nükleer silahlanma yarışına dönerek bir Meksika açmazına doğru gittiğini ileri sürmüştüm. Zaman zaman bu sayfada ele aldığımız YZ’nin kötüye kullanımının, son haftalarda konu ile ilgili bilim insanlarının yoğun uyarıları ile bir farkındalık oluşturması ciddi bir beklenti. Artık tüm insanlığın Rubicon Nehri’nin kıyısında1 kamp kurduğunu biliyoruz.

Tutuklu İkilemi

Ülkelerin kendi ekonomik, güvenlik ve refah çıkarlarını bahane ederek silahlanma yarışına ara vermeden devam ettiği bir gerçek. YZ üretimi ve liderliği de çok benzer bir şekilde ülkeler için bir var olma, hayatına devam edebilme şartlarından. Ancak YZ öğrenim modeli, ebeveynleri diyebileceğimiz yaratıcıları tarafından nasıl yazıldıysa ve hangi eğitim seti (bilgiler diyelim) ile beslendiyse, ona bağlı. Ülkeler içinde kimin iyi ve tüm insanlığın çıkarına bir eğitim verecek ebeveyn olduğunu bilmiyoruz. (bkz: Yapay zekâ ve varoluşsal risk)

Yapay zekâ ve varoluşsal risk

Önceki hafta (7 Haziran 2023) Avrupa Birliği bir YZ Regülasyon Yasası Teklifi’nin üye ülkeler arasında görüşülmesini kabul etti. Teklif üzerinde anlaşılıp yasalaştığında ise YZ üretimi Avrupa çapında kontrol altına alınıp, “Kabul edilemez”, “Yüksek”, “Limitli” ve “Düşük” riskler olarak dört farklı kategoride incelenmeye başlayacak. Güzel bir adım gibi düşünülebilir ancak devamı ya da dünyaya pozitif etkisi olacağını sanmıyorum. AB ülkeleri bunu yaparken konunun öncüleri olan Çin, Amerika, Rusya, İngiltere ya da Kanada’nın insafa gelip de üretimlerini sınırlandırmasını düşünmek fazla iyimserlik içeriyor. İnsanlık için çok ciddi bir yok oluş riski taşıyan iklim krizi konusunda, sırf ekonomik çıkarlarının azalacağından ve rekabet güçlerini kaybedeceğinden endişe eden ülkelerin adım atmaktan kaçındığı bir dünyada YZ’nin kontrollü üretiminin yapılabileceği inancı, riskleri küçümsemekten başka bir şeye yol açmayacaktır düşüncesindeyim.

İklim krizi konusunda çalışmalarını yapan BM İklim Değişikliği Bilimsel Danışma Komitesi 1990’da yayınladığı bilimsel rapor sonrası 1997 yılında Kyoto Sözleşmesi imzalanmış ancak ABD 2001 yılında, Kanada 2011 yılında, Rusya da 2012 yılında imzalarını çekmiştir. Benzer bir çıkar kavgası sebepli vazgeçmeler olabileceği riskini alamayan ülkelerin de YZ üretimini kontrol altına alabilmelerini çok olası görmüyorum. Tutsak ikilemi senaryosunda olduğu gibi, belirsizlik durumunda iyiliği değil, rasyonel olan seçimi yapmak herkesin canını yakacak ve bundan bu sefer kimsenin kurtuluşu olmayacak. 

Özellikle teknolojik anlamda gelişmiş olan ülkeler, rekabet gücünü kaybetmiş, teknolojik anlamda diğer üst ülkelere bağımlı hale gelmiş, işsizlik, eğitimsizlik ve artan eşitsizliklerle boğuşan, güvenlik zayıflığı gösteren diğer ülkeleri çok rahat sömürü altına alacaklardır (bu tanım bana benzer durumdaki bir ülkeyi hatırlattı!). Ne yazık ki oyun teorisinin de söylediği gibi ülkelerin tek amacının kimseyi düşünmeden kendi kazançlarını maksimize etmeleri olan bir dünyada yok oluşumuzun başlangıcının 2030 yılı civarında olabileceği tahminleniyor.
GoogleX eski yöneticilerinden ve günümüzde girişimciliğe devam eden Mısır doğumlu Mo Gawdat, YZ üzerine yaptığı onlarca yıllık çalışmaları ardından görevinden ayrılıp riskler konusunda çok ciddi uyarılar yapan bir figür haline geldi. Savunduğu en önemli tez de YZ üretimi için düzgün ilerleyen devlet kontrollü bir regülasyonun asla yapılamayacağı, yapılacak olan şeyin her bireyin tek tek buna karşı ses etmesi gerektiği. 2021 yılında yayınladığı “Scary Smart: The Future of Artificial Intelligence and How You Can Save Our World (ISBN: 978-1529077650)” kitabında konuyu oldukça kapsamlı ve ürkütücü şekilde ele almış durumda. Kontrollü YZ üretimi için yaptığı önerilerden birisi de YZ uygulamalarının diğer üretimlere göre vergilendirilmesinin arttırılması ve bu sayede ilerlemelerin yavaşlatılabileceği yönünde. Ancak elbette unutulmaması gereken konulardan birisi de YZ gibi üst teknoloji üretiminin artık garajlara kadar girdiği. Günümüz dünyasını esir almış olan FaceBook’un bir üniversite odasında, Google arama motorunun henüz doktora aşamasındaki iki öğrenci tarafından, Microsoft’un da benzer şekilde henüz üniversite öğrencisi olan kişiler tarafından kurulduğu düşünülürse, yasal regülasyonların ya da vergi gibi korkutma çabalarının çok işe yaramayacağı açık. Günümüzde teknolojik bilgi açısından donanımlı iki üç öğrenci sadece açık kaynak kodlarını kullanarak bile oldukça başarılı uygulamaları bir hafta sonunda bile çıkarabilir durumda.

Sanırım geldiğimiz durumda, kendimizi teknoloji ve bilim okuryazarlığı konusunda eğitip bireysel çaba göstermek dışında bir adım atılamayacak anlardayız. Malum kaderini bekleyen bir av hayvanı gibi, Rubicon Nehri’nde ayağını ilk ıslatacak olanı izlemek kalacak bizlere. Türkiye’de yapılan siyasal İslamcı darbenin ardından günümüze dek geçen süre kadar sonra Rubicon Nehri’nin aşıldığını göreceğimizi düşününce, sanırım çocuğum olmadığı için daha da mutluyum.

[1]: Julius Ceaser’ın, M.Ö. 49’da Roma’ya dönerken Rubicon Nehri’ni geçince söylediği varsayılan “Alea iacta est” günümüzde, yaklaşık olarak, “ok yaydan çıktı” ya da “zarlar atıldı” gibi bir anlamda kullanılıyor. Rubicon Nehri’ni ordusu ile geçmemesi konusunda senato tarafından uyarılan Ceaser, daha sonraki iç savaş sonrası yıllar sürecek diktatörlüğünü başlatmıştı.