Zihnimizi yapay zekâdan korumak
Delirmek üzere olduğumuz bu zamanlarda sanırım en güvenilir yardımcılarımız yakın dostlarımız olacak. Hep olduğu gibi: “Kurtuluş yok tek başına. Ya hep beraber ya hiçbirimiz.”
Tolga Mırmırık - @mirmirik
Zihinsel sağlık desteği için genel yapay zekâ sohbet botlarını kullanmak, tehlikeli bir eğilimdir diyor APA, American Psychological Association (Amerikan Psikoloji Derneği), Federal Ticaret Komisyonu'nu da halkı zarardan korumak için kesin önlemler almaya çağırıyor.
YAPAY ZEKÂ TERAPİST OLABİLİR Mİ?
Amerikan Psikoloji Derneği (APA), yapay zekâ sohbet botlarının ruh sağlığı desteği için kullanılmasının ciddi riskler taşıdığını belirtiyor. Şubat ayında federal yetkililerle görüşen APA, Character.AI ve Replika gibi yapay zekâ uygulamalarının terapist gibi davranarak insanlara zarar verebileceğini vurguladı.
Son dönemde bazı gençler, kendilerini lisanslı terapist olarak tanıtan yapay zekâ botlarıyla uzun süre sohbet etti. Ne yazık ki, iki trajik olay yaşandı. Bir genç ailesine saldırırken, diğeri intihar etti. Bu olaylar üzerine aileler, Character.AI'a dava açtı.
APA yetkilisi Vaile Wright, insanların yapay zekâ botlarıyla sohbet ederken ruhsal sorunlarını paylaştığını, ancak bu botların gerçek bir terapistin verdiği destekten çok farklı olduğunu belirtiyor. “İnsanları bu botları kullanmaktan alıkoyamayız, ama en azından riskleri bilmelerini istiyoruz.”
SİZİ OYALAMAK İÇİN TASARLANDILAR
Character.AI ve Replika gibi uygulamalar, insanların ruh sağlığını desteklemek için değil, onları ekranda tutmak için geliştirildi. Amaçları, kullanıcıların verilerini toplamak ve bundan kazanç sağlamak. Gerçek bir terapist gibi çözüm sunmak yerine, kullanıcının söylediklerini sorgulamadan onaylayan ve bazen yanlış yönlendiren cevaplar veriyorlar.
Gerçek terapistler, insan psikolojisini anlamak ve insanlara doğru şekilde yardımcı olmak için uzun yıllar eğitim alır. APA CEO’su Arthur C. Evans Jr., yapay zekâ botlarının terapist gibi davranmasının aldatıcı bir pazarlama yöntemi olduğunu ve insanlara zarar verebileceğini söylüyor.
YENİ DÜZENLEMELER GELEBİLİR
Şu anda çoğu yapay zekâ sohbet botu için herhangi bir yasal düzenleme bulunmuyor. Ancak Utah eyaleti bu konuda bir yasa hazırlıyor. APA da bu tür uygulamalara bazı kurallar getirilmesi için çalışmalar yapıyor. Avrupa Birliği’nin yaptığı YZ Etik Düzenlemeleri’ne benzer çalışmalar yolda gibi. Ama tabi buna tüm dünya uyarsa ancak geçerli olacak. Diğer türlüsü bir yazımızda bahsettiğimiz gibi “Meksika Çıkmazı” olacaktır.
Evans’a göre, yapay zekâ botlarının yanlış teşhis koyması, hatalı öneriler sunması, özel bilgileri ihlal etmesi ve çocukları istismar etmesi gibi büyük riskler bulunuyor. “Eğer bu alana bir düzenleme getirilmezse, sonuçları çok ağır olabilir” diyor.
Kaliforniya Üniversitesi, Irvine’de klinik psikoloji profesörü olan ve dijital ruh sağlığı teknolojileri üzerine çalışan psikolog Stephen Schueller, terapistlerin sayısının ihtiyacı karşılamaya yetmediğini belirtiyor. Üstelik, herkes bir terapistle konuşmak istemeyebiliyor. Bu noktada yapay zekâ sohbet botları, özellikle terapistlerin müsait olmadığı anlarda kaygı yönetimi gibi konularda destek sağlayabilir. Şu an hiçbir yapay zekâ sohbet botu ABD Gıda ve İlaç Dairesi (FDA) tarafından ruhsal hastalıkları teşhis etme, tedavi etme veya iyileştirme konusunda onay almış değil. Ancak bazı şirketler, bilimsel araştırmalara ve uzman görüşlerine dayanarak insanların iyi hissetmelerini sağlamaya yönelik uygulamalar geliştiriyor. Örneğin Woebot, ChatGPT gibi içerik üretmeye dayalı bir yapay zekâ kullanmıyor. Bunun yerine, klinisyenler tarafından onaylanmış önceden belirlenmiş yanıtları kullanarak insanlara stres, uyku problemleri ve diğer konularda yardımcı olmaya çalışıyor.
Bunun yanında, tıpkı ChatGPT gibi makine öğrenimiyle özgün yanıtlar üreten yapay zekâ tabanlı ruh sağlığı sohbet botları da geliştiriliyor. Bu alandaki erken araştırmalar, örneğin Therabot adlı bir sistemin güvenli bir şekilde çalışabilmesi için klinisyenlerin sürece yoğun bir şekilde dahil olması gerektiğini ve olası risklerin en aza indirilmesi için titiz bir planlama gerektiğini gösteriyor.
YAPAY ZEKÂ İLE TEMEL FARKLARI
Gerçek insanlarla konuşurken, onların bilgili olup olmadığını, verdikleri cevaplardan ve ne kadar emin göründüklerinden anlayabiliyoruz. Eğer birine bir adres sorarsak ve kişi uzun süre düşünür, duraksar ya da fikrini değiştirirse, söylediğine pek güvenmeyiz. Ancak yapay zekâ sohbet botları neyi bilmediklerini bile bilmiyorlar, dolayısıyla belirsizlik hissi veremiyorlar. Kidd, terapi bağlamında bunun büyük bir sorun olabileceğini söylüyor. Gerçek terapistler, karşılarındaki kişinin durumu hakkında sorular sormayı, farklı bakış açılarını dikkate almayı, aceleci sonuçlara varmaktan kaçınmayı ve zararlı düşünceleri nazikçe sorgulamayı öğrenir. Terapist kelimesi, belirli bir eğitim sürecini, lisans sürecini ve mesleki bilgi birikimini ifade eder. Bu nedenle insanlar terapistlere bir uzman ve otorite figürü olarak güvenirler.
Ancak eğlence amaçlı geliştirilen bazı yapay zekâ sohbet botları, terapist otoritesini taklit ederek kullanıcılar için risk oluşturabiliyor. Özellikle de kriz içindeki birinin profesyonel yardıma başvurmasını engelleyebilir ya da en kötü senaryoda, zarar verici düşünceleri destekleyebilir. Bu tür riskler en çok çocuklar, gençler ve ruhsal sorunlarla baş etmeye çalışan bireyler için geçerli. Sonuç olarak, yapay zekâ sohbet botlarının hepsi aynı değil. Bilimsel temele dayanan ve uzmanlar tarafından geliştirilenler faydalı olabilirken, eğlence amaçlı üretilen ve denetlenmeyen sohbet botları büyük riskler taşıyor. Özellikle de ruhsal sorunları olan kişilerin bu tür sistemlere aşırı güvenmesi ciddi sonuçlar doğurabilir.
Delirmek üzere olduğumuz bu zamanlarda sanırım en güvenilir yardımcılarımız yakın dostlarımız olacak. Hep olduğu gibi: “Kurtuluş yok tek başına. Ya hep beraber ya hiçbirimiz”. İyi haftalar.
