Yapay zekâ, savaşı çoktan korkunç bir noktaya getirdi
David Moscrop - jacobin.com
Yapay zeka destekli savaş, 20. Yüzyılın endüstriyel savaş taktiklerinde köklenen bir mantığa genişliyor: insanları veri setlerindeki noktalar olarak görecek uzaklıkta bir mesafe. ABD İran ile savaşında yapay zeka kullanıyor. Ordu, veri derlemede çeşitli YZ sistemleri kullandığını, inisiyatif aldırmadıklarını ve sadece enstrüman olarak kullandıklarını iddia ediyor. Amerika Merkezi Komutanı Brad Cooper, YZ sistemlerinin silahlı kuvvetlere yardımcı olduğunu, “saniyeler içerisinde devasa miktarlarda veri içerisinden seçim yaparak liderlerimizin düşmanın karşılık verebileceğinden daha hızlı şekilde akıllıca kararlar alabildiklerini” söyledi.
Yapay zeka hedef tespitinin ve ateş açmanın hızını artıracak; dolayısıyla savaşın, ölümün, yıkımın ve ardından gelen her şeyin temposunu da hızlandıracaktır. Cooper, son kararın insanlar tarafından verildiği konusunda ısrar ediyor. Ama bu, amaçlandığı kadar güven verici değil. Yakın tarihli bir rapor şöyle diyor: “Operation Epic Fury için hedefler, Ulusal Jeo-Uzamsal İstihbarat Ajansı’nın Maven Smart System adlı sistemi yardımıyla belirlendi. Bu sistem gözetleme ve istihbarat verileri dahil olmak üzere çeşitli veri noktalarını bir araya getiriyor ve bilgileri karar vericilerin kullanabileceği bir gösterge panelinde sunabiliyor.”
Buna rağmen bize yapay zekâ araçlarının hedefleri “doğrudan üretmediği” söyleniyor; yalnızca “askeri istihbarat için potansiyel ilgi noktalarını belirliyorlar.” Bu, bilginin kararları etkilemediğini söylemeye benziyor. Sanki bir komutanın önüne konan istihbaratın saldırı emrinin nereye verileceğiyle hiçbir ilgisi yokmuş gibi.
Eğer İran’daki Şecere Tayyebeh ilkokulunun 28 Şubat’ta bombalanması, bir yapay zekâ aracının eski askeri istihbaratı Maven sisteminin paneline “entegre etmesinin” sonucuysa, bu durum yapay zekânın görünürde insanlara ait olan “son karar”ı fiilen şekillendirdiği anlamına gelir. Cooper’ın askeri personelin hâlâ kokpitte olduğu yönündeki rahatlatıcı açıklaması doğru olabilir. Ama hedefleme sistemlerinin içine yapay zekâyı dahil etmek ve onun önerilerine göre hareket etmek, insanlar tetiği çekmeye devam etse bile fiilen yapay zekâ destekli askeri karar alma anlamına gelir.
SAVAŞ KÜÇÜK EKRANA GELDİĞİNDE
Amerika’nın son savaşında yapay zeka sistemlerinin kullanılması bazılarına 1990–91 Körfez Savaşı’nı hatırlatabilir. Bu çatışma tarih kitaplarında belki büyük bir savaş olarak görülmeyecek, ama televizyonlardan gerçek zamanlı izlediğimiz bir savaştı: yeşil ışıklarla parlayan ekranlar ve aniden beliren patlamalar. CNN’in 24 saatlik yayınlarında sürekli yer aldı. 1990’ların başında hem savaş teknolojilerinde hem de iletişim alanında ortaya çıkan yeni yöntemler bir şeylerin değiştiğini gösteriyordu. Savaş hem uygulanış biçimi hem de tüketilişi bakımından daha uzak ve daha insanlıktan arındırılmış bir hâl almıştı. Yüzlerce kilometre öteden fırlatılan seyir füzeleriyle yürütülüyor, halka ise neredeyse bir video oyunu görüntüsü gibi sunuluyordu. İnsan, geri dönüşün artık mümkün olmadığı hissine kapılıyordu. Bu ne olursa olsun, geri dönüşü olmayan bir yolun başlangıcıydı.
Tarihçi Eric Hobsbawn, Aşırılıklar Çağı adlı kitabında yirminci yüzyılda modern savaş teknolojilerinin ve büyük ölçekli çatışmaları mümkün kılan bürokratik sistemlerin savaşı kökten değiştirdiğini yazmıştı. Bu gelişmeler, mesafe gücü sayesinde daha önce mümkün olmayan bir topyekun savaş biçimini ortaya çıkarmıştı. Savaşta mesafenin amacı stratejik ve taktik avantaj sağlamaktır; yani bir tür örtü, daha iyi bir konum ve sürpriz yaratmaktır. Ama nihai etkisi ayrıştırmadır. Şiddet, hatta kitlesel şiddet, eylemi gerçekleştiren kişinin yaptığı şeyin doğrudan fiziksel sonuçlarından uzak olduğu bir mesafe üzerinden gerçekleştiğinde, şiddet kişiliksiz ve gerçekdışı hâle gelir; hatta sanal bir şeye dönüşür. Bir video oyunu oynamak gibi. Tetiğe bas, joystick’i yukarı it ve ekrandaki pikseller kaybolurken gününe devam et. Akşam yemeğine zamanında eve dön, belki birkaç tur Call of Duty oyna.
Yapay zekanın insan aklı ve yok etme kararı arasına koyduğu mesafe hepimizi korkutmalı. Yaratacağı felaketlerin sınırı olmayabilir. Başka diğer tüm özelliklerinin yanında, insan tarihi teknoloji kullanarak birbirini yok etmenin tarihidir. Bugün bu meziyetin ötesine geçtik, yalnızca fiziksel imhanın merhametsiz verimliliği açısından değil, yıkımı daha kolay yöneten, meşrulaştıran, olayların öncesinde, sırasında ve sonrasında bununla yaşamayı kolaylaştıran doğası sebebiyle de.
Hobbsbawn’ın 1914’ten 1991’e kadar süren “kısa” yüzyıla dair uyarısında olduğu gibi: “Yüzyılımızın en büyük acımasızlıkları, uzaktan komuta edilen kararların, sistemlerin ve düzenlerin şahsi olmayan biçimleridir, özellikle de sonradan özrü dilenebilen operasyonel gereklilikler olarak meşrulaştırılabiliyorsa.” Hobbsbawn kısa yüzyılın endüstriyel katliamının acımasızlıklarını tespit ederken haklıydı. Bizim düşünmemiz gereken sorun, bu acımasızlık Yapay Zekanın karar verilebilirliğinin yarattığı yeni mesafe sayesinde yoğunlaştığında nasıl bir tabloyla karşı karşıya kalacağımız.
Çeviren: Göksu Cengiz
