Katil Yapay Zekâ…

Tolga MIRMIRIK - @mirmirik

Yapay zekâ konusunda işsiz kalmak dışındaki en büyük korkulardan birisi de YZ’nin bizlerin yaşamlarını sona erdirmek olduğu. İleride tüm insan ırkının sona ermesini temsil eden varoluşsal risk konusundan (bkz: Yapay zekâ ve varoluşsal risk / https://www.birgun.net/haber/yapay-zeka-ve-varolussal-risk-407328) farkları olan bu korku oldukça da gerçekçi. Çünkü YZ, askeri robotlarda ve savaş makinelerinde uzun yıllardır var ve tam anlamı ile günümüz savaşlarında da kullanılmakta.

Yapay zekânın insan kontrolünden çıkması sonrası bizler için tehdit oluşturma korkusu genellikle izlediğimiz bilim kurgu filmlerinden kaynaklanıyor. Blade Runner (1982, Ridley Scott), Terminator (1984, James Cameron), I, Robot (2004, Alex Proyas) veya Ex Machina (2014, Alex Garland) gibi filmlerden çıkarımımız, bir robotun ya da daha doğru ifade ile zekâya sahip bir makinenin biz insanlar için tehlike oluşturması ve istemlerimiz dışında hareket edip hedeflenmiş insanlara saldırması.

SAVAŞTA KULLANIM

Bu tehdit çok da yeni değil. Savaş alanlarında insan yapımı elektronik makinelerin kullanımı II. Dünya Savaşı’na kadar gidiyor. Henüz yapay zekâ teriminin çıkmasına 10 – 15 yıl varken bile insanlar elektronik sistemlerden faydalanarak şifreleme ve topçu atışı hesaplamaları için bu teknolojik gelişmeden faydalanıyordu. Soğuk savaş döneminde istihbarat ve keşif alanlarında da elektronik sistemler büyük rol oynadı. Hem ABD hem de SSCB casus uyduları ve istihbarat toplama sistemlerini geliştirmek için elektronik sistemler ve bilgisayarlar kullandı. 1980’ler döneminde, otonom askeri sistemlerin geliştirilmesine odaklanıldı. Özellikle insansız hava araçları (İHA’lar) ve otonom silahlar üzerinde çalışmalar yapıldı. 2000’lerde yapım maliyetinin düşmesi ve daha güçlü sistemlerin ortaya çıkması ile askeri istihbarat toplama, veri analizi, simülasyonlar ve karar destek sistemlerinde daha yaygın bir şekilde kullanılmaya başlandı.

Günümüzde, YZ askeri uygulamalar için birçok kategoride kullanılıyor. Bunlar yoğunlukla otonom araçlar, siber güvenlik, simülasyon ve eğitim, stratejik planlama kategorilerinde bulunmakta. Yapay zekâ askeri uygulamaları hızla gelişmekte ve birçok ülke, savunma ve güvenlik alanında YZ teknolojilerini kontrol edilemez şekilde benimsemeye devam etmekte. Bu ülkelerin başında ABD geliyor. Çin, Rusya ve İsrail de askeri amaçlı YZ uygulamaları ve donanımları konularında baş aktörlerden.

OTONOM SİLAHLAR

Rusya – Ukrayna savaşının bize öğrettiği şey, otonom silah teknolojilerin tam anlamıyla yıkıcı ve üstün güç olduğu. Sayıca oldukça yetersiz durumdaki Ukrayna ordusu Rusya’yı otonom silah desteği ile durdurmayı başardı. Kullandıkları dronlar ve İHA’lar Rus ordusuna çok büyük zarar vermeyi başardı. Bilim insanlarının yıllardır üzerinde durduğu konu olan teknolojik yeterliliğin sayıca büyük ordulardan çok daha yıkıcı güç olacağı tezi doğrulanmış oldu. ABD ve NATO ordularına destek veren firmalar da saha testlerini insan hayatını yok ederek yapmış oldular. Teknolojik ilerlemeye ayak uyduramayan ulus devletler için bu zamandan sonrası çok daha kötü olacak gibi görünüyor.

YZ destekli askeri otonom araçlar arasında özellikle dron sürüsü adı verilen sistem savaş alanlarında düşman varsayılan kuvvetlere karşı kullanılmak üzere yoğun araştırmalara konu olmakta. Kameralar, sensörler ve silahlarla donatılmış küçük uçan robotlardan oluşan bir grup dronun olduğunu hayal edin. Dron sürüsü adı verilen bu dronlar, bir grup kuş gibi veya bir grup balık gibi bir arada çalışmak için birbirleriyle iletişim kurabiliyor. Her bir dronu ayrı ayrı kontrol etmek yerine tümüne birbirlerini takip etmeleri, belirli bir mesafede kalmaları ve birlikte hareket etmeleri talimatı verilebiliyor. Bu sayede koordineli saldırılar ve gözetleme işleri kolaylıkla yapılabiliyor. Görev gereksinimlerine göre sayıca büyütülebilmeleri ya da küçültülebilmeleri ile çoklu görev yapabilmeleri sayesinde gelişmiş devletlerin silahlanma hırsından büyük pastayı alabilecek bir teknoloji alanı olmakta. Tabi ki burada da insan hayatı ve karar yetkisi ile kimin ve nasıl hedef alınacağı sorunu etik bir zorluk oluşturmakta. Sivil zararlar, gözetleme yapmaları ile gizlilik hakkı ihlalleri çoğu yapay zekâ uygulamasında olduğu gibi burada da ciddi tartışma konusu.

1960’lı 1970’li yıllardaki barışçıl gelecek hayallerimiz teknoloji yüzünden yeniden tehdit altında. Yapay zekânın kendisinin yanı sıra yapay zekâ kullanan ve insan hayatını hiçe sayan devasa savaş endüstrisi açlığını doyurmaya niyetli değil. Biz orta katman insanlar için yapabilecek çok şey de bulunmuyor ne yazık ki. Ne Birleşmiş Milletler ne de benzeri uluslararası kuruluşların YZ konusundaki yaptırım gücü tavsiye niteliğinden öteye geçemiyor. Etik anlayışı insanlık için pozitif yönde olan bilim insanları dışında da bu konudaki çalışmaları durdurabilme gücü kimsede yok gibi. İnsanlık olarak sıkıntılı dönemlere girdik, Rubicon nehrini aştık, bundan sonrası yokuş aşağı olacak gibi geliyor. Umarım yanılıyorumdur. İyi haftalar.