Yapay zekâ ve varoluşsal risk
Tolga MIRMIRIK
Yapay zekâ (YZ) uygulamaları ve hayatlarımızdaki yerleri ile ilgili tartışmalar bitmek bilmiyor ve uzun bir süre de biteceğe benzemiyor. Orta yolcular dışında genelde iki belirgin şemsiye altında toplanıyor görüşler. Görüşlerden birisi yapay zekâyı insanoğlu için bir “varoluşsal risk” olarak niteliyor, tamamen kontrollü çalışmalar yapılmasını ve devletler üstü bir grup tarafından tüm çalışmaların denetlenmesini doğru buluyor. “Varoluşsal risk”, büyük bir gök cisminin dünyaya çarpması, buzul çağa girip tüm kaynakların tükenmesi gibi insan varlığının kalıcı olarak yok olmasına / neslinin tükenmesine yol açabilecek bir durum. Yapay zekânın bizleri yeryüzünden silme riski oluşturabileceğini düşünmek, ünlü Terminator filminin senaryosu gibi görünebilir. Ancak, YZ’nın içinde bulunduğumuz bu yüzyılda insanlar kadar akıllı (veya daha akıllı) olabileceği konusunda uzmanlarla hemfikirseniz, endişelenmek için birkaç neden de var.
Bu düşünceyi akla getiren ilk sebep oldukça basit: Bilindiği üzere en son bir grup diğerinden daha zeki olduğunda, daha az zeki olan grup için işler pek de iyi gitmedi. Homo sapiens tüm gezegene hükmetti. Hem de bunun sebebi büyüklüğümüz veya gücümüz değil, zekâmızdı. Şu anda dünya üzerinde bize en yakın akrabamız olarak kalan ve oldukça da zeki davranışlar gösteren her bir şempanze için, yaklaşık 32.000 - 35.000 insan var (WWF verilerine göre dünya üzerinde sadece iki yüz – iki yüz elli bin şempanze kaldığı tahminlenmekte). Şempanzeler şu anda tehlikede ve hayatta kalmaları onların değil tamamen bizim seçimlerimize bağlı. Mükemmel bir benzetme olmasa da endişe, bir noktada, güçlü bir YZ karşısında şempanzelerle aynı konumda olabileceğimiz.
Özellikler ve tanımlamalar
Oldukça zevkli bir düşünce egzersizi de olan ve uzmanlar tarafından “özellikler / tanımlamalar problemi” olarak adlandırılan durum da endişe verici. Biz insanlar henüz bir YZ’nin -her ne kadar güçlü bir sistem olursa olsun- tam da bizim istediğimiz gibi davranmasını nasıl sağlayacağımızı net olarak bilemiyoruz. YZ’den yapmasını isteklerimizi o kadar açık ve eksiksiz bir şekilde belirtmeliyiz ki açıkta hiçbir noktanın kalmaması gerekiyor. 1962 doğumlu, San Francisco Kaliforniya Üniversitesi’nde Bilgisayar Bilimleri profesörü olan ve YZ alanındaki araştırmaları ve alana yaptığı katkıları ile tanınan Stuart J. Russell, bunu şöyle örneklendiriyor:
“Diyelim ki kapasitesi çok yüksek, oldukça zeki bir YZ var elimizde. Bu YZ’ya ‘kanseri tedavi’ görevi verdik. YZ çalışmasını yaptı ve kanseri kesinlikle yok edecek bir çözüm ortaya çıkardı. Bu tedavi çözümünü uyguladığımızda ise gördük ki hasta da ölüyor. Çünkü YZ’nın kendi mantığına göre en basit çözüm seçilmişti ve aslında ona söylediğimizi de tam olarak yapmıştı. Kanserli hücreler artık yoktu.”
Varoluşa tehdit oluşturacak süper YZ sözkonusu olduğunda Oxford Üniversitesi’nden filozof Nick Bostrom’un 2003 yılında ortaya attığı bir düşünce deneyi de “ataş problemi” olarak geçmekte[1]. Düşünce deneyi, özellikle sayfaları birbirine tutturduğumuz ataş özelindeyse de aslında çok basit bir görev olarak görülecek “en verimli kaynak kullanımı ve maksimum ataş üretimi” görevi olan bir YZ’nın insanlığı yok edecek düzeye gelebilmesi ile ilgili. Ataş oluşturmaya adanmış bir YZ, verimliliği artırmak ve oluşturulan ataş sayısını en üst düzeye çıkarmak için yöntemleri kolaylıkla öğrenebilir. Ataş YZ başka hiçbir şeyi umursamaz, bu nedenle sonunda diğer tüm endüstrilerin sınırlarını aşmaya başlar ve bir noktada da “tüm gezegeni ataşlarla kaplamak” ister. Ama insanlar da sonsuz sayıda ataşın kötü bir şey olacağına karar verir ve bu nedenle YZ’yi kapatmak ve/veya ataş üretimini durdurmak ister. Tamamen ataş üretimine odaklı YZ bu durumda kendi hayatta kalmasına odaklanacak ve insanları kendi hedeflerine yönelik bir tehdit olarak kabul edecektir. Tam bu nokta yeniden Terminator benzeri bilim kurgu senaryosu gibi oluyor. Ancak bu tür düşünce deneyleri ile kendimizi zorlamak ve işin varabileceği yerleri hayal etmek şimdiden ilerideki bir güvenlik problemini oluşmadan engellemenin -şimdilik- bilinen en güvenilir yolu.
Midas efsanesi
Bu “özellikler/tanımlamalar problemi”nin çok benzerini aslında Yunan mitolojisindeki Midas efsanesinde de görüyoruz. Birbirinden az farkları bulunan anlatılara göre, Dionysos, kaybolmuş üvey babası (yol arkadaşı?) Silenos’u kendisine getiren Midas’tan bir dilekte bulunmasını ister ve Midas da dokunduğu her şeyin altına dönüşmesini talep eder. Bu talebi gerçekleşir ve dokunduğu şeylerin altına dönüşmesini sağlayacak güç hediye edilir kendisine. Ancak yemek istediği yemeği ya da içmek istediği suyu bile altına dönüşünce bu hediyesine lanet eder.
İyimser diğer grup ise tam ters görüşte ve YZ’nin tüm insanlık için kurtuluş olacağını savunmakta. Daha da ileriye giderek devlet ve dünya yönetimini YZ’ye bıraktığımızda, tüm siyasi görüşlerin sona ereceği, politik anlamda sağ ve sol kavramlarının kalmayacağı, faşizm, komünizm ya da benzer görüşlerin tamamen ortadan kalkıp refah içinde yaşayacağımızı öne sürüyor. Kişisel fikrime göre oldukça ütopik ve hayalperest bir görüş. Kişisel olarak kötümser taraftan bakmamız gerektiği konusundaki görüşlere daha yakınım.
[1]: Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence, Vol. 2, ed. I. Smit et al., Int. Institute of Advanced Studies in Systems Research and Cybernetics, 2003, pp. 12-17, https://nickbostrom.com/ethics/ai