Yapay zekâ riski abartılıyor mu?

Tolga Mırmırık - @mirmirik

2024 yılının ilk ayını bitirmek üzereyiz. Geçtiğimiz iki yılda bu sayfaya yazdığım birçok yazıda yapay zekâ hakkında biraz karanlık bir tablo çizdim. Oysa, yeni yapılan ve bu alanda çalışan, saygın yayınları ve patentleri olan araştırmacılar arasında yapılan bir çalışmada, yapay zekânın insanlığı yok etme ihtimalinin sadece yüzde 5 olduğu düşünülüyor.

Bu, arXiv.org sunucusunda yayınlanan bir makalenin düşündürücü bir bulgusu (araştırmanın linkini yazının sonuna ekledim). Bu raporda yazarlar, yüksek profilli yapay zekâ araştırma konferanslarında ve dergilerinde çalışmalarını sunan ve yayınlayan 2.778 araştırmacının katıldığı bir anketin sonuçlarını aktardılar. Bu araştırma bir alanda bugüne kadarki en büyük anketti: insanlığın geleceğinin.

Ancak bazı yapay zekâ araştırmacıları, anket sonuçlarının alarmcı bir bakış açısına yönelik önyargılı olmasından endişe duyduklarını söylüyor. Araştırmayı yürüten AI Impacts, Silikon Vadisi’nde popüler olan ve yapay zekânın insanlıkla gelecekteki etkileşimlerine dair felaket dolu bakış açısıyla bilinen yeni ortaya çıkan bir felsefi hareket olan “etkili fedakârlığı” (effective altruism) destekleyen Open Philanthropy gibi çeşitli kuruluşlar tarafından kısmen finanse edilmiş durumda. Bu finansman bağlantıları ve anketteki soruların sorulma şekli, bazı yapay zekâ araştırmacılarının yapay zekânın gerçek tehdidini değerlendirmek için yanıltıcı anket sonuçlarını kullanmış olmanın sakıncalarından bahsetmelerine de yol açtı.

Etkili fedakârlık, destekçileri tarafından var olan kaynakları insan yaşamına mümkün olan en fazla faydayı sağlayacak şekilde kullanmayı amaçlayan bir “entelektüel proje” olarak sunulmakta. Hareket, nükleer silahlarla aynı düzeyde, insanlığın varoluşsal tehditlerinden biri olarak yapay zekâya giderek daha fazla odaklanıyor. Ancak eleştirmenler, spekülatif gelecek senaryolarıyla ilgili bu meşguliyetin, toplumu diğer acil sorunların yanı sıra ayrımcılık, mahremiyet ve işçi hakları da dahil olmak üzere yapay zekânın bugün halihazırda oluşturduğu risklerin tartışılması, araştırılması ve düzenlenmesinden uzaklaştırdığını söylüyor.

GÜVENLİK ARAŞTIRMALARI İSTEĞİ

AI Impacts’in 2016’dan bu yana bu alanda yaptığı üçüncü anket olan son anket, araştırmacılardan yapay zekânın insanlığın "yok olmasına" (veya türlerin "kalıcı ve ciddi şekilde zayıflatılmasına") neden olma olasılığını tahmin etmelerini istedi. Yanıt verenlerin yarısı %5 veya daha fazla bir olasılık öngördü. Ancak araştırmaya katılanların neredeyse %70’i YZ güvenlik araştırmalarına çok daha fazla önem verilmesi gerektiğini düşünüyor.

Yapay Zekâyı Geliştirme Derneği’nin (Association for the Advancement of Artificial Intelligence, AAAI) eski başkanı Thomas G. Dietterich, anket sorularını bu şekilde sormanın doğal olarak yapay zekânın varoluşsal bir tehdit oluşturduğu fikrini ön kabul ederek desteklediğini de savunuyor. Dietterich, katılması istenen yaklaşık 20.000 araştırmacıdan biriymiş; ancak soruları okuduktan sonra katılımı reddetmiş.

"Önceki yıllarda olduğu gibi, soruların çoğu yapay zekânın felaketi, varoluşsal risk perspektifinden soruluyor" diyor. Özellikle anketin bazı soruları, katılımcılara, mümkün olan her görevde bir insanı geride bırakabilecek bir makine olarak tanımladığı yüksek seviyeli makine zekâsının önünde sonunda inşa edileceğini varsaymalarını doğrudan sordu. Dietterich, bunun her yapay zekâ araştırmacısının kesin olarak gördüğü bir şey olmadığını belirtiyor. Bu sorular için neredeyse her sonucun, yapay zekânın potansiyel geleceğine ilişkin endişe verici sonuçları desteklemek için kullanılabileceğini söylüyor.

SİS PERDESİ OLUŞTURUYOR

Amsterdam Üniversitesi’nden makine öğrenimi araştırmacısı Tim van Erven gibi diğerleri de ankete katıldı ancak daha sonra pişman oldular. Van Erven, "Araştırma, bunun hangi mekanizmayla gerçekleşeceğini belirtmeden, insan neslinin tükenmesiyle ilgili temelsiz spekülasyonları vurguluyor" diyor. Katılımcılara sunulan senaryoların, varsayımsal yapay zekânın yetenekleri veya bunların ne zaman gerçekleştirileceği konusunda net olmadığını söylüyor. Van Erven şunu ekliyor: "Bu tür belirsiz, abartılı kavramlar tehlikelidir çünkü bunlar, dikkatleri şu anda yaşanan sıradan ama çok daha acil sorunlardan uzaklaştırmak için bir sis perdesi olarak kullanılıyor."

Araştırmalarını savunan Grace ve meslektaşları, AI Impacts’in çalışmalarına önceki yıllarda yöneltilen eleştirilerin bazılarını, özellikle de nispeten az sayıda katılımcının alanı yeterince temsil etmediği iddiasını ele almak için çok çalıştıklarını söylüyorlar. Bu yıl AI Impacts ekibi, daha fazla kişiye ulaşarak ve katılımcı çektiği konferansları genişleterek yanıt veren sayısını artırmaya çalıştı.

Ancak araştırmacılardan çok uzak bir gelecek hakkında tahminlerde bulunmalarını isteyen bir anketin, yapay zekâ riskinin temel gerçeği hakkında herhangi bir değerli bilgi sağlayıp sağlamadığı sorusu da var. Dietterich, "Bu anketlere yanıt veren kişilerin çoğunun dikkatli bir risk analizi yaptığını düşünmüyorum" diyor. Tahminlerini desteklemeleri de istenmiyor. "Bu sorulara yararlı yanıtlar bulmak istiyorsak, her risk ve faydayı dikkatle değerlendirecek araştırmalara fon sağlamamız gerekiyor."

Bizler açlık sınırındaki emekli maaşlarımızı sorgularken dünya da bu konular ile uğraşmaya devam ediyor. Güzel zamanlar. İyi haftalar olsun hepimize.

Kaynak:

Thousands of AI Authors on the Future of AI https://arxiv.org/pdf/2401.02843.pdf

Association for the Advancement of Artificial Intelligence (AAAI) https://aaai.org/