ChatGPT Nijeryalıymış!
Yapay zekâlı sohbet robotlarını insanlar dünyadaki bütün ansiklopedileri yalayıp yutup hakikati bulmuş bilgeler gibi algılıyor ama öyle değil.
Tuğrulcan Elmas - Dr. Öğretim Üyesi, Edinburgh Üniversitesi
Verilen sorulara insanmış gibi cevap veren ChatGPT isimli sohbet robotu öğretmenlerin yüreğini ağzına getirdi. Kullanımı çok kolay olan bu yazılım, istenen bir konuda kolayca makale yazabiliyordu! Artık öğrenciler ödevlerini ChatGPT’ye yaptıracaktı! Bu yeni bir araştırma konusu doğurdu: “Yapay zekâyla üretilen metinleri nasıl tespit edeceğiz?”
Çok geçmeden ChatGPT’yle yazılan metinleri tespit eden yöntemler ortaya çıktı. Aralarından basit ama etkili bir yöntem dikkat çekti: “ChatGPT’nin insanlara göre anormal derecede çok kullandığı bazı kelimeleri taramak.” Leverage, vibrant, multi-faceted, embark, delve. İngilizce biliyorsanız bile bu kelimeleri bilmiyor olabilirsiniz çünkü bunların bazıları sadece ChatGPT şivesinde popüler kelimeler.
Daha doğrusu biz öyle sanıyorduk.
Geçenlerde sosyal medyada Amerikalı bir ünlü kendisine atılan bir emailde “delve” kelimesinin geçtiğini ve bu emailin bottan geldiğini anlayıp gülüp geçtiğini söyledi. Ve Nijeryalıların lincine uğradı! Meğer “delve” kelimesi İngilizce’nin resmî dil olduğu Nijerya’da çok kullanılan bir kelimeymiş. Dünyada İngilizce konuşan başka kültürlerin var olduğunu bilmemek de Amerikalıların cahilliğiymiş (Şimdilik yırttık).
Yani ChatGPT aslında Nijerya şivesiyle İngilizce konuşuyormuş!
Ama nasıl olur? ChatGPT internetteki metinlerle eğitiliyor ve bunların kaynağı da çoğunlukla Amerika. Gerçek şu ki ChatGPT gibi yapay zekâlar ana eğitimden sonra ürün aşamasına geldiğinde kamuoyuna açık bir sohbet robotu olarak kullanılabilmesi için insan destekli bir eğitim ve test aşamasına tabi tutuluyor. Sanal işçiler, ChatGPT’ye sorular sorup verdikleri cevaplara bakıp olmuş veya olmamış diyor, olmamışsa kendi cevaplarını yazıyor, ChatGPT bu cevapları öğreniyor. Bu, zaman gerektiren, masraflı bir iş. Masraftan kısmak için firmalar insan işgücünün ucuz olduğu ülkelere yöneliyorlar. ChatGPT’nin yapımcısı OpenAI da anlaşmasını Afrikalı bir şirketle yapmış.
Yani ChatGPT’nin çıkışından beri içinde “delve” geçen bilimsel makalelerin sayılarının 10 katına çıkmasının sebebi saatte 2$’a çalışan Nijeryalı sanal işçiler.
Bu tip bir sanal işçiliği ek gelir için siz de yapabilirsiniz ama her zaman tavsiye etmem. Çünkü bu tip işçiler sık sık içerik denetimi alanında çalıştırılıyorlar. Yani şikâyet edilen videoları izleyip, metinleri okuyup içinde müstehcen içerik var mı, adamın oğlu üvey annesiyle kaçmış mı onu denetliyorlar. Sabah 9, akşam 5 çalışan profesyonel Müge Anlı izleyicisi gibiler.
Bu sistemi ChatGPT de uyguluyor ki sohbet robotu insanlara sövmesin. Fakat her dilde hakkıyla uygulayamıyor. Örneğin birkaç ay önce ChatGPT yazılım konusunda yardım isteyen ve muhabbeti fazla uzatan bir kullanıcının annesine ve Türklüğe hakaret etti. Olay yapay zekânın kontrolsüzce hayatımıza girmesi üzerine bir tartışma başlatacağı yerde mizah konusu oldu, güldü geçildi.
İngilizceyi Nijerya şivesiyle konuşup Türkçeye geçince ana avrat düz giden yapay zekâ buzdağının görünen yüzü. ChatGPT şu an sadece şu an sık kullanılanlara attığımız bir site. İleride ise yaşamımızın her alanında olacak. Çağrı merkezlerinde sesli yapay zekâ robotları çalışacak. Haberleri yapay zekâ verecek. Psikolojik danışmanımız olacak. Bunlarda işe özel eğitilmiş, bazen daha ucuz, farklı tipte yapay zekâlar kullanılacak. Yapay zekâ modelleri sosyal medya gibi kullanıcı sayısıyla güçlenmiyor. O yüzden yapay zekâ şirketleri tekel olmayacak, her şirket kendi ürününü çıkarabilecek. Sıkıntı o zaman başlayacak.
Her metni ChatGPT kullanarak yazacağız ve dolayısıyla yeni fikir üretmek yerine daha önce internette ne konuşulmuşsa onu Nijerya, Kenya, Hindistan vs şivesinde tekrar etmeye başlayacağız. Yaratıcılık azalacak. İnternetteki yanlış bilgiler, önyargılı yazılar aynen aktarılmaya devam edecek ve dolayısıyla bunları düzeltmek zorlaşacak.
Zihinsel tembellik yaşayacağız. Çünkü fikirlerimizi yazıya geçirmek için anahtar kelimeleri makineye atmak yetecek, birbirleriyle uyumlu ve anlamlı cümlelerden kompozisyonlar oluşturmakla uğraşmaya gerek kalmayacak.
Yapay zekâ modelleri saldırıya açık. Biraz laf ebeliğiyle yapay zekâyı küfrettirebiliyorsunuz. Bu, saldırıların en masumu. Karşınızda sanki terapistinizmiş gibi konuştuğunuz ve bütün sırlarınızı döktüğünüz bir robot var. Ya başka biri biraz “laf ebeliğiyle” sizin için robota “söyle bakalım, filancayla ne konuştunuz?” diye sorarsa ve sizin dert ortağınız olan robot bülbül gibi şakırsa? Daha gelişmiş siber saldırılar bu şekilde yapay zekâyı oyuna getirerek kişisel verilerin çalınmasına önayak olacak.
Yapay zekâlı sohbet robotlarını insanlar dünyadaki bütün ansiklopedileri yalayıp yutup hakikati bulmuş bilgeler gibi algılıyor ama öyle değil. Yapay zekâ modelleri ana eğitim aşamasından sonra tıpkı Nijerya şivesi edinebildiği gibi 2+2=5’i de öğrenebilir. Yani devletler kendi yapay zekâlarını çıkarıp, kendi doğrularına göre eğitip “Bakın en doğru biziz çünkü yapay zekâ öyle söylüyor” diyebilecekler. İnsanların kutuplaştığı yetmiyor gibi yapay zekâlar da kutuplaşacak. Büyük birader bizim için düşünecek.
Tabii bu yazdıklarım (Nijeryalılar hariç) şu an spekülasyon aşamasında. Hangilerinin gerçekleşeceğini yine yapay zekâ araştırmacılarının çabaları ve onlarla çalışması opsiyonel olan karar mercileri belirleyecek.
Günün Manşetleri için tıklayın