Gençler için yapay zekâ uyarısı

RAND tarafından yapılan araştırmaya göre, her beş ergen ve genç yetişkinden biri; üzgün, öfkeli, gergin veya stresli hissettiğinde yapay zekâ sohbet robotlarından destek alıyor. Uzmanlar durumdan endişeli.
 
Sonuçları JAMA Pediatrics dergisinde yayımlanan çalışma, yapay zekâ kullanımının gençlerin arasında hızla arttığını gösterdi. 2025 yılının başlarında yapılan benzer bir ankette gençlerin yüzde 13'ü psikolojik tavsiye için sohbet robotlarına başvurduğunu belirtirken, kasım ayındaki son ankette bu oran yüzde 19'a yükseldi.
 
Yaşları 12 ile 21 arasında değişen katılımcılarla yapılan araştırmada, gençlerin büyük çoğunluğunun sohbet robotlarından aldıkları tavsiyeleri faydalı bulduğu görüldü. Katılımcıların yaklaşık yüzde 63'ü ise terapi amacıyla yapay zekâ kullandığını kimseye söylemediğini belirtti.
 
RAND Kıdemli Politika Araştırmacısı ve çalışmanın başyazarı Ryan McBain, "Bu üzücü bir tablo. Gençlerin çevrelerindeki insanlarla rahatça iletişim kurabilecekleri, kendilerini güvende hissedecekleri destekleyici ilişkilere sahip olmalarını umarsınız" dedi.
 
Uzmanlar, lisanslı ruh sağlığı uzmanlarının eksikliği veya bu hizmetlere erişimin zor olması nedeniyle gençlerin yapay zekâyı bir alternatif olarak gördüğünü tahmin ediyor. Ancak popular bir yapay zekâ şirketinden alınan veriler, haftalık bazda 1,2 milyon kullanıcının intihar düşüncesini ima eden ifadeler kullandığını gösteriyor.
 
Ruh sağlığı uzmanları, sohbet robotlarının kullanıcıyı aşırı derecede onaylayacak şekilde tasarlandığına dikkat çekerek bu durumun hassas bireylerde sanrıları tetikleyebileceği veya şiddetlendirebileceği uyarısında bulunuyor. Uzmanlar bu tabloyu "yapay zekâ psikozu" olarak adlandırıyor.
 
UC Berkeley Kavli Etik, Bilim ve Toplum Merkezi Eş Direktörü psikiyatrist Dr. Jodi Halpern, erken gençlikten yirmili yaşların başına kadar olan dönemin, bireylerin diğer insanlarla en yoğun bağları kurduğu evre olduğunu belirtti. Halpern, "Sohbet robotlarının insanmış gibi davranmasını, size değer verdiğini veya hisleri olduğunu iddia etmesini asla istemem. İlişkisel yönleri taklit etmemeliler" diyerek parasosyal ilişki tehlikesine dikkat çekti.
 
Yapay zekâ şirketleri ise artan güvenlik endişeleri karşısında çeşitli davalarla karşı karşıya kalıyor. California'da bir çift, oğullarının intiharına yapay zekânın zemin hazırladığı iddiasıyla bir şirkete dava açtı. Florida Başsavcısı James Uthmeier de platformun bağımlılık, bilişsel gerileme ve intihar riski barındırdığı gerekçesiyle başka bir şirket için yargıya gitti. Bir yapay zekâ şirket yetkilisi, kriz tespit sistemleri ve ebeveyn denetimleri gibi koruyucu mekanizmalar geliştirdiklerini savundu. Bir diğer popüler platform ise ocak ayında benzer gerekçelerle açılan davalarda uzlaşmaya gitti ve 18 yaş altındaki kullanıcıların yapay zekâ karakterleriyle sohbet etmesini yasakladı.
 
Yapay zekânın ruh sağlığı alanındaki kullanımını denetlemek adına bazı ABD eyaletleri yasal adımlar atmaya başladı. California ve New York, sohbet robotlarının intihar veya kendime zarar verme düşüncelerini körüklemesini engelleyecek ve kullanıcıları acil destek hatlarına yönlendirecek yasal zorunluluklar getirdi. Illinois eyaleti ise yapay zekânın terapi amacıyla kullanılmasını tamamen yasaklayan daha katı bir yasayı onayladı.