Yapay zekâya nazik mi olmalıyız?
Tolga Mırmırık - @mirmirik
Öncelikle biraz tozumuzu almak için evrimsel ve tarihsel bir iki örnek vereyim, sonra asıl sorumuzun cevabını beraber arayalım…
Zaman zaman yazılarımda bahsettiğim iletişim konusunda öncelikli düşüncem, iletişim becerimizin biz homo sapiens türünü tüm yeryüzüne hâkim kılan bir gelişme olduğu yönünde. İletişim becerimiz geliştiği ve edindiğimiz bilgileri bir sonraki nesle aktarabildiğimiz ölçüde geliştik, modern toplum haline gelebilmemiz yönünde adımlar atabildik. Çıkış yerimiz olan “ape” türleri içinden sıyrılabilmemizi ve günümüzdeki “hikâye anlatabilen tek hayvan” olmamızı sağlayan da bu iletişim becerimiz ve gücümüzdü.
Jacques Mallet du Pan’ın 1793 tarihli makalesinde atıfta bulunduğu ve Georges Jacques Danton’un giyotine yollanması üzerine yazdığı “Satürn gibi, devrim kendi çocuklarını yiyor” ya da daha yerleşik ifadesi ile “devrimler öncelikle kendi çocuklarını yer” misali günler için bizler de şu anda bir teknolojik devrim aşamasındayız. Yunan mitolojisindeki titanlardan Kronos (Roma mitolojisindeki adı ile Satürn), kendisine rakip olmaması için kendi çocuklarını yemesi ile mitlere konu olmuştu (doğan tüm erkek çocukların katledilmesi konusu birkaç dine daha esin kaynağı aslında).
Gerçekler
Mitlerden gerçeklere dönelim. Son on beş yılda “büyük dil modeli” (LLM) konusunda inanılmaz bir atılım yaptık ve 2022 sonu gibi bunu tüm insanların yaygın kullanımına da sunduk. Bu yazıdaki gibi, hemen hemen tüm teknoloji köşelerinin vazgeçilmez konusu haline geldi ChatGPT ve benzeri dil modelleri. Daha önceki yazılarda bahsi geçtiği üzere temel olarak var olan tüm yazılı kaynaklarla (kitaplar, akademik makaleler, sosyal medya yazıları, Internet üzerindeki yazılar…) “eğitilen” bir yapay zekâ olan GPT modelleri, sorduğumuz sorulara ve bizlerle etkileşimlerine bağlı olarak da davranışlarını değiştirebiliyor. Eğitimlerine aslında arka planda devam ediyorlar. Hala bizlerden öğreniyor ve öğrenimlerine uygun şekilde sonraki davranışlarını farklılaştırıyorlar. Kendimden örnek vereyim. OpenAI’ın ChatGPT uygulamasına bilişim dünyasına ait bir kısaltmayı sordum. Bana istediğimi değil, daha yaygın olarak hukuk alanında kullanılan kısaltma için bir cevap verdi. Uygulamaya “ben bunu değil, bilişim dünyasına dair kısaltmayı istiyorum” dedikten sonra aradığımı buldum. Sonraki günlerde ne zaman bu kısaltma ile ilgili bir bilgi sorsam bana gidip asıl amacıma uygun cevapları sundu. Bu tam olarak yapay zekânın öğrenmesini örneklemiyor aslında. Sadece kişiye ya da kullanıcı profiline uygun cevaplar vermesini sağlayan çok küçük bir detay. Ancak sorduğumuz sorulara gelen cevapları “uygundur” ya da “uygun değildir” diyerek bir nevi puanlayabildiğimiz sürece, arka planda tutulan tüm bu bilgiler, yapay zekânın bir sonraki sürümü için taze bilgiler oluşturuyor.
Geçen hafta Twitter’da (X demeye alışamadım henüz) bir arkadaşımın “ChatGPT ile yazıştığımda ‘lütfen’ ya da ‘teşekkür ederim’ diyorum, umarım farkındadır” minvalindeki bir bildirimine denk geldim. Sonrasında sevgili İlker Birbil Hoca (@sibirbil) da benzer bir şey yazdı. Aslen bir yapay zekâ uygulamasına “nazik” davranmanız neyi değiştirebilir ki? Altı üstü bir “program” kendisi. Referanslarını yazı sonuna eklediğim yapılan araştırmalar 1, 2 bizlere iki farklı sonuç üretmekte. Birisi daha net, kesin ve amaca yönelik bilgiler aradığımızda “nazik” olmaya gerek olmadığı yönünde. Yani “lütfen bana 1945-1950 yılları arasındaki çelik üretimini verir misin” demek yerine “1945-1950 yılları arası çelik üretim bilgilerini lise öğrencisine anlat” demek çok farklı sonuçlar doğurabiliyor. Biz insanlar için iletişim algılarımızda bu iki farklı cümle nasıl farklı cevaplar üretmemizi sağlıyorsa, şu anki LLM’ler için de aynı şey geçerli. Bu sebeple ben ileriki öğrenimlerine de destek olacağı gerçeği ile YZ uygulamalarına nazik davranmakta ve insanlığın iyi yönünü göstermekte fayda olacağını savunuyorum. Benim savım ve tarafım, daha önce örneğini kullandığım Mo Gawdat’tan yine. Superman dünyaya düştüğünde kendisine sahip çıkan Kent ailesi ahlak ve dürüstlük seviyeleri yüksek kişilerdi ve buna uygun bir şekilde “iyi insan” olarak yetiştirdiler Kal-El’i. Eğer Superman Adolf Hitler tarafından evlat edinilmiş olsaydı dünyaya ne olurdu? Bugünkü YZ uygulamaları henüz ayağa kalkmaya çalışan küçük bebekler ve onların eğitimlerinden tüm insanlık olarak bizler sorumluyuz. Bizim yansımalarımız olacak ileri dönemdeki ergen YZ’ler.
Sonuç
Bizler yarattığımız Titan Kronos tarafından yenilecek çocuklar mı olacağız yoksa yarattığımız çocuğu iyi yetiştirebilmiş birer ebeveyn mi? Bu ikisi arasında karar verebilmek bizim elimizde ve şansımızı iyi değerlendirmemiz gerekiyor. İyi haftalar.
Referanslar:
1. Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4
https://arxiv.org/pdf/2312.16171.pdf
2. Should We Respect LLMs?
https://arxiv.org/ftp/arxiv/papers/2402/2402.14531.pdf
3. Saturn Devouring His Son