Yapay zekâ çoğunluğun faydasına mı?
Yapay zekâ, her gördüğüne ve duyduğuna inanan fakat bu bilgilerin doğruluğunu sorgulama kapasitesi olmayan bir insan gibidir. Eğitim verisi üzerinden öğrenir ancak veri içerisindeki bilgilerin gerçekliğini ayırt edemez
Mehmet Yiğit Özgenç - @myozgenc
Son yıllarda, üretici yapay zekâ teknolojisinin ön plana çıkmasıyla birlikte, bu teknolojilerin dünyayı nasıl algıladığına dair çarpıcı gerçekler de ortaya çıkmaya başladı. Üretici yapay zekâ modelleri dünyanın çoğunlukla beyaz erkekler tarafından yönetildiği ve kadınların ise nadiren statüsü yüksek mesleklerde yer aldığı bir tablo çiziyor. Bu teknolojilerden bazıları alternatifleriyle karşılaştırıldığında daha muhafazakâr çıktılar üretirken bazıları liberal çıktılar üretebiliyor. Bu durum yapay zekânın mevcut toplumsal stereotipleri pekiştirdiğini gösterirken aynı zamanda bu algoritmaların eğlence ve yaratıcılık amacı güden araçlardan öteye, gelecekteki sosyal ve ekonomik yapıları şekillendirecek önemli araçlara dönüşme potansiyelini de ortaya koyuyor. Bu potansiyel yapay zekanın toplumsal algılarımızı ve davranış kalıplarımızı nasıl etkileyebileceği konusunda önemli soruları gündeme getiriyor. Ortaya çıkan tablo pek çoğumuzu derinden rahatsız ederken maalesef bazıları için arzulanan bir dünya düzeninin yansıması olarak yer alabiliyor.
Yapay zekâ teknolojisindeki bu ilerleme Büyük Dil Modelleri (LLM) ve Görsel Üretim Modelleri gibi öncü iki alan üzerinden incelendiğinde modern teknolojinin sınırsız potansiyelini açığa çıkarıyor. LLM’ler, ChatGPT gibi araçlarla dilin muazzam karmaşıklığını kavrayıp insan benzeri yanıtlar üretme becerisine sahipken Görsel Üretim Modelleri, Stable Diffusion ve Dalle gibi modellerle sadece birkaç kelimenin gücüyle gerçekçi görselleri üretme yeteneğine sahip oluyor.
Önyargının oluşumu yapay zekâ sistemlerinin eğitildiği veri setlerinin kökeninde yatıyor. Bu sistemler internette bulunan metinler, görüntüler ve çeşitli kaynaklardan toplanan verilerle beslenir. Ancak bu verilerin çoğunluğu insanlar tarafından üretilmiş ve toplanmış olduğundan toplumun mevcut önyargılarını ve eşitsizliklerini de içeriyor. Yapay zekâ modelleri bu veriler üzerinden öğrenirken veri setlerindeki yanlışlıkları, önyargıları, stereotipleri ve ideolojiyi de beraberinde öğrenir ve bunları çıktılarında yansıtır. Bu durum yapay zekânın tarafsız bir araç olmaktan ziyade onu eğiten verilerin kalıplarını tekrar eden bir ayna haline gelmesine neden oluyor.
Yapay zekâ, her gördüğüne ve duyduğuna inanan fakat bu bilgilerin doğruluğunu sorgulama kapasitesi olmayan bir insan gibidir. Eğitim verisi üzerinden öğrenir ancak veri içerisindeki bilgilerin gerçekliğini ayırt edemez.
British Columbia Üniversitesi, Sauder İşletme Okulu, California Üniversitesi ve Carnegie Mellon Üniversitesi’nin ortak çalışmalarının ilk sonuçları, Midjourney, Stable Diffusion ve DALL·E 2 gibi popüler üretken görsel yapay zekâ (AI) araçları tarafından üretilen çıktılar farklı alanlarda cinsiyet ve ırk önyargıları içerdiğini gösteriyor. Çalışmanın bulguları ilgili yapay zekâ araçlarının kadınlara ve siyahi bireylere yönelik sistemik önyargıları olduğunu ve mesleki temsillerde bu önyargıların artarak devam ettiğini ortaya koydu.*
Washington, Carnegie Mellon ve Xi’an Jiaotong Üniversiteleri’nin araştırması da dil modellerinin eğitim verilerinde yer alan medya önyargılarını yansıttığını bu yüzden farklı sosyal gruplara karşı adil olmayan çıktılar üretebildiğini vurguluyor. Özellikle politik zeminde bu modellerin hâkim görüşleri yansıttığı ve diğer demografik grupları yeterince temsil etmediği gösteriyor.**
Gelişen yapay zekâ modelleri çoğunlukla büyük teknoloji firmalarının kontrolündeki özel donanımlar üzerinde eğitilirken bu süreç kamu gözetiminden ve şeffaflıktan uzak gerçekleşiyor. Modellerden bazılarının, veri setleri ve eğitim ayrıntıları açıklanırken diğerleri sınırlı erişim yoluyla - bir API aracılığıyla veya model parametrelerinin doğrudan yüklenmesiyle- sunuluyor ancak detayları ve eğitim verileri gizli tutuluyor. Bu durum sağlık ve eğitim gibi kritik öneme sahip alanlarda, toplumsal ve akademik aktörlerin bu sistemlerin önyargılarını ve yanlı yönlendirmelerini keşfetme ve müdahale etme yeteneklerini sınırlıyor.
Yapay zekâ modelleri eğitim verilerindeki önyargıları ve ideolojileri öğrenerek çıktılarında yansıtırken Türkiye gibi kitle iletişim araçlarının ve medya içeriklerinin çoğunluğunun merkezi kontrol altında olduğu ve tek bir ideolojik perspektiften üretildiği ülkelerde bu modellerin toplumun gerçeklerini ne kadar doğru yansıttığı büyük bir soru işareti olarak önümüzde duruyor. Bu durum yapay zekanın çeşitliliği ve objektifliği konusunda endişelere yol açarken teknolojinin mevcut iktidar yapılarını pekiştirme potansiyeli ve toplumsal düzenin şekillendirilmesindeki rolü üzerine ciddi tartışmaları da beraberinde getiriyor.
Bu bağlamda yapay zekâ teknolojilerinin gelişimi ve güncel uygulama biçimleri, sadece teknolojik bir mesele olmaktan çıkıp toplumsal yapı, ideoloji ve güç dinamikleri ile iç içe geçen karmaşık bir alanı kapsıyor. Teknolojinin mevcut güç yapılarını pekiştirmek yerine toplumsal ilerlemeye katkıda bulunacak şekilde yönlendirilmesi bilim üreten üniversitelere kayyum atandığı ve teknolojik gelişimin özel şirketlere yönlendirildiği günümüz Türkiye’sinde savunulması gereken elzem konulardan birisi olarak önümüzde duruyor.
* https://www.andrew.cmu.edu/user/ales/cib/bias_in_gen_ai.pdf