Yapay zekâ bizi kurtar(a)mayacak

Prof. Dr. Doğan KÖKDEMİR

2 Ocak 1921 tarihinde, Karel Capek’in tiyatro oyunu R.U.R. (Rossum’un Uluslararası Robotları) sahnelendiğinde^[1], seyircilerin gelecekle ilgili ciddi anlamda kaygılandıklarını söylemek çok yanlış olmayacaktır. Mekanik olarak insandan daha hızlı ve becerikli olan, öğrenme ve öğrendiklerini hatırlama konusunda sınırsız bir yeteneğe sahip olan robotların, eninde sonunda kendisini yaratan insanlara ihtiyaç duymadığı için onları ortadan kaldırmaya çalışmasını seyretmek 1920’lerdeki seyirciler için korkunç bir geleceğin işaretiydi. Adı henüz konmamış olsa da insanların, yapay zekâ algoritmalarıyla ve androidlerle hayal dünyasındaki bu ilk tanışıklığı romantik olmaktan ziyade distopik bir alacakaranlık kuşağını öngörüyordu. 1950’lerde ortaya çıkan, tekillik (singularity) kavramı bu distopyayı daha da karanlık (ama heyecanlı) bir hale getirdi. 1958’de John von Neumann’ın dile getirdiği bu kavram günün birinde çok güçlü, süper-zeki insan yapımı makinelerin yapılabileceğini insan-makine ayrımının giderek kapanacağını ve sonunda o süper-zeki makinelerin insanın yerini alabileceğini söylüyordu. Tekillik, bir yandan muhteşem bir teknolojik gelişmeyi müjdelerken aynı zamanda insana ihtiyacı kalmayan evrenden de bahsediyordu. Uzun lafın kısası, tekillik bizi yok edecek bir teknolojik gelişime doğru ilerlediğimiz konusundan insanları uyaran bir kavramdı aynı zamanda. 1993 yılında NASA’nın ev sahipliğinde düzenlenen Tekillik Konferansı’nda, Vernor Vinge, bu distopik son için tarih bile verdi; konferanstan 30 yıl sonra, yani 2023’te süper-zeki makineler yaratılmış olacak ve “son” başlayacak^[2].

Deep Blue ve AlphaGo

1920’lerde başlayan bu endişenin çok yükseldiği ve endişe sahiplerinin haklı olduklarını düşündükleri çok örnek yaşadık. Kasparov’un 1996 ve 1997 yıllarından IBM tarafından geliştirilen Deep Blue ile oynadığı satranç karşılaşmalarında, ilk defa bir satranç şampiyonunun bilgisayar programına maç kaybettiğine tanık olduk. Her ne kadar Kasparov, bunun çok doğal olduğunu, hafızasında binlerce oyun ve hamleyi eksiksiz tutan ve gerektiğinde çağıran bir programa karşı, asıl, kazanmanın sürpriz olduğunu söylese de, pek çok insan bu yenilgiyi “yok oluşun” işareti olarak gördü. Google tarafından geliştirilen AlphaGo, 2016 yılında go üstadı Lee Sedol’u yendiğinde ise 2023’ün öne çekildiği düşünüldü. Çünkü AlphaGo, kendisinden önceki Deep Blue’dan farklı olarak, veritabanından hamle çağırmakla kalmadı, yeni ve otantik hamleleri de “yarattı”. Bu, şimdiye kadarki algoritmaların dışında, öğrenen ve yaratan bir algoritmanın en önemli örneklerinden birisi oldu.

Doğal olarak, bu gelişmelere herkes olumsuz olarak bakmıyor. Sonuçta, öğrenen ve bunun ötesinde yaratıcı kararlar alabilen makinelerin günün birinde, insanların sıkça hata yaptıkları alanlarda görev almalarının dünyayı daha güzel bir yer yapacağını düşünüyorlar. Eğer böyle bir gelişme sağlanabilirse, büyük ihtimalle haklı da olacaklar. İktisadi, sosyal, ekolojik ve politik konularda insanların tarih boyunca ne kadar çok hata yaptığı ve bu hataların zaman zaman milyonlarca insanın hayatına mâl olduğu sır değil. Bir süper-zeki makine, herhalde, dünyanın ekolojik dengesini bozacak, canlı türlerinin yok olmasına neden olacak uygulamalar yapmayacaktır; ya da aynı makine insanların refahını sağlamak için çok daha akılcı iktisadi yöntemler önerecektir. Kısacası hatasız, rasyonel bir dünya uzak değil. Yapay ama süper-zeki teknokratlarla yönetilmek en azından bazıları için vizyoner bir bakış açısı olabilir.

Yapay zekâ (AI) algoritmalarının bizden daha hızlı ve hatasız sonuçlara ulaştığını biliyoruz. Bu üstünlüğü inkâr etme şansımız yok. Ancak, yapay zekâ konusunda çalışan uzmanların ve süper-teknokrat beklentisinde olanların da gayet bildiği gibi yapay genel zekâ (AGI) sözkonusu olduğunda hâlâ yerimizde sayıyoruz. Sürücüsüz bir arabaya, karşısına yaya çıktığında korna ile onu uyarması gerektiğini öğretebilirsiniz ama söz konusu yayanın elinde yarısı boşalmış bir içki şişesi varsa ya da o yaya kendisi gibi boyunlara taktıkları, bir futbol takımının temsil eden atkıyla dolaşan bir grubun arasında çıkıp karşıdan karşıya geçiyorsa, kornanın işe yaramasını bırakın, işleri daha da içinden çıkılmaz bir hale getirebilir. Tabii ki, bu durumların (senaryoların) da öğretilmesi mümkün ama gündelik insan yaşamındaki sözkonusu senaryoların binlerce ayrıntısı olduğunu ve üstelik bunların önemli bir kısmının uyanık bilincimizin ve dikkatimizin dışında var olduğunu düşünecek olursak bu iş çok kolay değil.

Rasyonel kararlar Kaosa dönüşür

Benzer bir örneği iktisadi olarak düşünelim. Genelde insanların sınırlı rasyonellikleri nedeniyle iktisadi kararlar aldıklarında, bu kararların gereğinden fazla risk içerdiğini ve kazanma olasılığının da yüksek olmadığını biliyoruz. Bireysel ve kurumsal olarak bütün ekonomik kararların süper-zeki makineler aracılığıyla alındığını düşünelim. Örneğin, bizim süper-zeki makinemiz, yaptığı binlerce işlem sonrasında bize 48 saat boyunca para harcamamız gerektiğini söylesin. Eğer bu rasyonel ve mutlak doğru bir stratejiyse, başka insanların süper-zeki makineleri de aynı şeyi söyleyecektir. Yani, Ankara’daki 6 milyon, İstanbul’daki 16 milyon, Türkiye’deki 80 milyon ve dünyadaki 8 milyar insan 48 saat boyunca para harcamamaları gerektiği bilgisini alacak. Herkesin aynı şekilde davranması imkânsız ama öyle olduğunu varsayalım; sonu ne olur? Tahmin edeceğiniz gibi bütün sistem çöker. İki gün boyunca dünyadaki her bir insan, herhangi bir konuda tamamen aynı kararı alıp uygularsa bireysel olarak rasyonel görünen o kararlar kaosa dönüşürler. Bu kaostan kurtulmak o kadar kolay olmayabilir.

Evet, yapay zekâ bizi kurtaramayacak. Böyle bir olasılık için öncelikle yapay genel zekâya ulaşmamız lazım. Şaka yapabilen ya da en azından şakaları anlayabilen, görsel ya da işitsel yanılsamalara tepki verebilen, hata yapan ve bu hatalardan yaratıcı ürünler çıkarabilen, duyguları tanıyabilen, eylemde bulunmak kadar bulunmamayı (hareketsiz kalmayı) “tercih” edebilen makineler olmadığı sürece yapay zekâ bizi kurtaramayacak. Bunlar olursa da, işte o zaman yazının ilk kısmındaki tekilliğe doğru gidiyor olacağı ve o zaman da yeni, yapay genel zekâ özelliği taşıyan süper-zeki makineler bizi kurtarmayacak. Bilinçli olarak kurtarmayacak... Niye kurtarsın ki?

[1] Capek, K. (1920/2021). R.U.R.
(Çev. B. Kösebalaban). İthaki.
[2] O’Connell, M. (2017). To be a machine. Granta.