Deepfake’ten nasıl korunuruz?

Önder KULAK - Kurtul GÜLENÇ

Stephen King’in aynı isimli romanından uyarlanan distopik “The Running Man” (1987) filminde, kehanet misali bir bölüm bulunur.¹ Bu bölümde, canlı yayında bir sürek avına çıkarılan “suçlular” (!) Ben Richards ve Amber Mendez, kendilerine kastetmek isteyen avcıları bir şekilde alt etseler de İçişleri Bakanlığı’na bağlı ICS yayın ağı yönetimi, yapay zeka aracılığıyla onların son avcı tarafından acımasızca öldürüldükleri bir video kurgular. Bütün ülke ekran başında Richards ve Mendez’in öldüğüne inandırılırken, onlar birkaç dakika sonra başlatılan nihai isyanda ön saflardadır. Kalabalıkların ikiliyi görüp aldatıldıklarını anladığı sahne, toplum nezdinde ICS’in yarattığı deepfake evreninin yıkıldığı an olarak imlenir. Bugün önemli bir gündem konusu olan deepfake’le ilgili yaklaşık kırk yıl önce yapılan bu öngörüler dikkate değerdir.

Deepfake, “reel” bir insanla ilişkili görüntü ve seslerin yapay zekayla işlenip ya da daha baştan onunla hazırlanıp sanki o kişiye aitmiş gibi dolaşıma sokulmasıdır. Günümüzde mizahi üretimler dışında deepfake, dolandırıcılık, itibar suikastı ve kara propaganda için de kullanılıyor. Bunlardan siyaset alanında kullanılan kara propaganda örneklerinin son birkaç yıldır etkili sonuçlar doğurduğu söylenebilir.

TESPİT

Deepfake bir süredir pek çok ülke siyasetinin ayrılmaz parçası. ABD, Fransa, Türkiye ve Arjantin, siyasette deepfake üretimlerin en sık kullanıldığı ülkeler arasında. Bu ülkelerde iktidarın deepfake marifetiyle muhalefeti kalabalıklar önünde kötülediği çok sayıda örnekten bahsedilebilir. Örneğin daha kısa süre önce Trump’ın Senato Azınlık Lideri Chuck Schumer ve Temsilciler Meclisi Azınlık Lideri Hakeem Jeffries’in Demokratları aşağılayan konuşmaları reelmiş gibi sosyal medyada paylaşması ve bu videoların önce infial yaratması, sonra sahte oldukları ortaya çıktığında yardımcısı Vance’ın bunların sadece eğlence amaçlı paylaşıldığını ifade etmesi çarpıcı bir örnek.

Deepfake üretimleri tespit etmek, aslında bugünkü koşullarda çok zor değil. Bu tespit de yine onu üretenler gibi yapay zeka destekli yazılımlarla yapılıyor. Çeşitli testler aracılığıyla çarpıklıklar, sıkıştırma izleri ve ışık-ses uyumsuzlukları belirlenip, içeriklerin deepfake olup olmadığı ortaya çıkarılıyor. Ayrıca akıştaki kafa ve beden hareketleri, ağız-çene-dudak ses uyumu ve yüz ifadelerindeki mikro saniyelik gecikmeler de hemen anlaşılabiliyor. Kimi yazılımlar insan yüzünde kan dolaşımına bağlı çok hafif renk değişimlerini dahi ölçebiliyor, ki deepfake üretimlerde bu nabız izleri hâlâ doğru şekilde yansıtılamıyor. Kameraların kendine özgü “dijital parmak izleri” de yine ilgili içerikleri incelemede kullanılıyor. Bu izler incelemede yerli yerinde bulunamadığında, üretimin deepfake olduğu sonucuna varılıyor.

Bir üretimin deepfake olup olmadığını tespit etmekten daha zoru ise, manipülasyon altındaki pek çok öznenin bu üretimlerin sahte olduğunu öğrendiğinde dahi, üretimin orijinalin bir temsili olduğu gibi çeşitli “ad hoc” savunular eşliğinde onu reelmiş gibi kabullenmesi ve bu kabullenmenin kolayca aşılamaması. Öyle ki, ekranlarda öldüğü gösterilen Richards ve Mendez’in doğrudan insanların karşısına çıkması bile artık günümüzde herkes için yeterli değil. Debord’un gösterinin “gösteri” olduğu açığa çıktığında parçalanmaya başladığı belirlemesi, post-hakikat eşiği geçildiğinde belli ki geçerliliğini yitiriyor.² Beraberinde, hakikat kaygısı duymanın “alternatif gerçeklik” olarak adlandırılan “fantezi dünyası”na yeğ olduğuna kişinin iknası da bir olmazsa olmaz haline geliyor.

GÜVEN

Chatbot’lardaki son güncellemelerle beraber, artık metinlerin insan elinden çıkmışçasına testleri geçebildiği içerikler hazırlanabiliyor. Zamanla aynısı deepfake üretimler için de geçerli olabilir. Her ne kadar metinlerde olduğu gibi yeni testler ve önlemler geliştirilebilirse de salt teknik incelemeleri baz almanın teknolojinin sürati karşısında insanları sık sık köşeye sıkıştırması şaşırtıcı olmaz. Dolayısıyla deepfake’ten korunmanın temeli, hâlâ güvenilir kaynakların seçilmesine bağlı.

İşçi nezdinde güvenilir kaynakların seçilmesi, ürettiği sınıf bilinci üzerinden bir eleştirel dijital-okuryazarlık edinmesiyle mümkün. Zira farklı toplumsal sınıfların ve dolayısıyla çıkarları birbirinden ayrışan öznelerin bulunduğu günümüz toplumlarında güven, naif bir kendini teslim etme koşulu olamaz. Medyada işçinin çıkarı, yaşadıklarının tüm çıplaklığıyla, eğip bükülmeden olduğu gibi yansıtılmasıdır. Lenin’in deyişiyle, sınıfın gücü yalana karşı hakikati ifade etmesinde yatar.³ Öyleyse duyacağı güven, aksini yapması kendi sınıfsal aidiyeti hasebiyle aleyhine olacak, yani varlığını değillemediği sürece aksini yapması beklenmeyen bir kaynağa yönelebilir. Böylece birey yüzünü, çıkarı ona yalan söylemek, onu aldatmak olanın aksi yönüne çevirir.

Günümüz eleştirel dijital-okuryazarlığı, seçilen kolektivite odaklı yayınlara doğrudan müdahil olmayı önerir. Yayınlar bugünün koşullarında okurlarına aktif katılım için fiziki ve dijital buluşmalar, yorum/fikir paylaşım ortamları, okur mektubu alanları gibi çok farklı formatlar sunuyorlar. Katılım kişiye hem denetleme hem de kaynağın dolaysızca parçası olma imkânı verir. Böylece birey, yayına kendine güvendiği gibi güvenmeyi, kendini eleştirdiği gibi eleştirmeyi öğrenir. Bu olgunlaşma süreci deepfake gibi tehditlere karşı ona çok daha yetkin refleksler kazandırır.

1. The Running Man, 01:18:47–01:22:34, 1987.

2. Bkz. Önder Kulak, “Reconsidering the Spectacle of Capitalism in Politics”, Dialektika, 2(5), 2020, ss. 9–13.

3. Vladimir Ilich Lenin, Lenin Collected Works 9, Progress Publishers, 1972, ss. 295–299.