birgün

10° PARÇALI AZ BULUTLU

Yapay zekâ ne kadar kötü olabilir ki?

Karakterin görünüşten anlaşılabilmesi olarak tanımlanabilecek sözde bilim fizyonomi, 19. ve 20. yüzyılların bilimsel ırkçılığının yakıtıydı ve insanlığın en kötü dürtülerinden bazılarına ahlaki bir örtü sağladı.

BİLİM 06.11.2022 11:36
Yapay zekâ ne kadar kötü olabilir ki?
Abone Ol google-news

Tolga MIRMIRIK

Yapay zekânın (YZ) geleceği konusunda çok iyimser olmayanlardanım. Hatta bu konuda oldukça karamsarım bile diyebilirim. Sanırım bu sebeple de “yazılımlar ve YZ sayesinde ileride her şey çok iyi olacak, siyasetçilerden ve siyasi akımlardan kurtulacağız” vb. cümlelere gülüp geçmem zor oluyor.
Bilgisayar dünyasında en bilindik söylemlerden birisi, Intel’in kurucu ortaklarından ve yönetim kurulu başkanlarından Gordon Moore’un söylediği “her iki yılda bir merkezi işlem birimleri içindeki transistörlerin sayılarının iki katına çıkacağı” tezidir. Moore’un Kanunu (Moore’s Law) olarak bilinen bu söylem, eksponensiyel bir gelişmeyi işaret eder. Her ne kadar bu fikrin öldüğü ve artık mikroişlemciler için elimizdeki hammaddenin fiziki sınırlarına geldiğimiz iddia edilse de henüz bu yönde net bir görüş yok. Bu durum artık iki değil dört yılda bir gerçekleşse de söylem hala geçerli görünüyor ve yeni tasarım tekniklerine dayalı tahminlere göre en az 30 yıl daha bu durum devam edecek.


Mikroişlemcilerdeki güç artışı yanında özellikle bilgi saklama birimlerindeki (bellek veya hard disk gibi) MB başına maliyetlerinin de 1957 yılına göre neredeyse 100 milyarda bire kadar gerilemesi, ileri sistemlerin geliştirme maliyetlerinin de çok düşmesine sebep oldu. 1957 yılında 1 MB bellek 411.04 Milyon USD’ye mal olurken günümüzde MB başına maliyetimiz 1 cent’in altına inmiş durumda1. Bu konuyu Max Tegmark “Yaşam 3.0” kitabında şuna benzer bir örnekle anlatır. “Eğer bu maliyet düşüşünü tüm ürünlerde yapabilseydik, tüm New York’taki evleri 10 cent’e ve şimdiye kadar çıkarılmış tüm altını da 10 USD civarında alabilirdik.” İnsanın hayal etmesi güç bir maliyet değişikliği. Normal yaşamlarımızda hiçbir üründe %99.9999999975’lik bir indirim görmedik.

Peki tüm bunların YZ ile ne ilgisi var? YZ, yüksek hızlı hesaplama becerisi için çok yüksek işlemci ve bellek gücüne ihtiyaç duyuyor. Son 20 yılda bu konuda baş döndürücü geliştirmelerin yaşanması da maliyetin düşüp işlemci kapasitesinin artmasından kaynaklanıyor. 2013 yılında özel girişimler YZ konusundaki araştırmalara ve şirketlere 2,7 milyar dolar yatırım yaparken bu sayı 2021’de 93.5 milyar dolara çıkmış durumda2 ve bizleri asıl endişelendiren konunun da bu olması gerektiğine inanıyorum. YZ’nın doğası gereği iç işleyişi bir muamma ve bilinmezlik haline gelebiliyor. Hangi kararı neye göre aldığı, neden X durumunda Y şeklinde davrandığının net bir cevabı verilemiyor.

Yüzsüzlük…

Yüz tanıma sistemlerine artık oldukça aşinayız. Bir sosyal medya uygulamasına fotoğraf attığımızda sistem bize saniyeler içinde o fotoğraftaki kişilerin kim olduğunu önerebiliyor ya da telefonumuzda bir fotoğraf çektiğimizde, çekilen fotoğrafta kimlerin olduğunu o cebe sığan taşınabilir bilgisayarımız bize bildirebiliyor. Özellikle iPhone sahiplerinin aşina olduğu yüz okutarak telefonun kilidini açma sistemini de oldukça başarılı ve efektif bir yöntem olarak görüyoruz. Büyük oranda da doğru. Hayatlarımızı oldukça kolaylaştıran fonksiyonlar bunlar. Şifremizi hatırlamamıza ya da belli bir kişiyi aramak için yüzlerce fotoğraf içinde gezmemize gerek bile kalmıyor. Bunların yapılabiliyor olması YZ’nın çoğu kişi tarafından çok iyi bir şey olduğu, tüm insanlığı ileride kurtaracak çözümleri bulabileceği, her şeyimizle körü körüne bu gelişmeleri desteklememiz gerektiği yanılgısına da dönüşüyor. Kullanım amacına bağlı olarak çok kötü sonuçlara da yol açabilecek buna benzer binlerce sistemin şu anda ne durumda olduğunu bilmiyor bile olabiliriz3.

2017 yılında Stanford Üniversitesi’nden Michal Kosinski ve Yilun Wang isimli araştırmacılar, bir flört uygulaması sitesindeki yüzbinlerce fotoğrafı kullanarak eğittikleri yapay zekâ sisteminin, herhangi bir insan fotoğrafına bakarak o kişinin homoseksüel mi yoksa heteroseksüel mi olduğunu belirleyebildiğini iddia ettikleri bir bildiri yayınladılar. Her ne kadar Dr. Kosinski sonradan bunu YZ’nın kötü amaçlar için kullanılabileceğine dair uyarı için örnek teşkil etmesi amacıyla yaptıklarını söylese de bilim çevreleri bunun gibi ifadelerin, kötü bir geçmişi olan eski bir inancı yeniden canlandırdığından dolayı oldukça eleştirdi. Karakterin görünüşten anlaşılabilmesi olarak tanımlanabilecek bu sözde bilim, (ya da) fizyonomi, 19. ve 20. yüzyılların bilimsel ırkçılığının yakıtıydı ve insanlığın en kötü dürtülerinden bazılarına ahlaki bir örtü sağladı: görünüşüne göre diğer insanları şeytanlaştırmak, mahkûm etmek ve hatta yok etmek. Böyle bir YZ destekli “sözde bilim” sisteminin aktif olarak Afganistan, Suudi Arabistan ya da İran gibi ülkelerde kullanıldığını hayal etmek, yüz tarama gibi çok masum görünen bir fonksiyonun sonuçları hakkında az çok bilgi verecektir.

Notlar
1: Historical cost of computer memory and storage (ourworldindata.org)
2: Annual global corporate investment in artificial intelligence, by type (ourworldindata.org)
3: Yapay Zekanın Kötü Amaçlı Kullanımı Raporu: https://maliciousaireport.com/

Video haberler için YouTube kanalımıza abone olun