Yapay zekanın karanlık yüzü: ChatGPT zihinsel sağlık krizlerini tetikliyor mu?
Arkadaş canlısı AI sohbet robotunuz yardımcı olmaktan daha zararlı olabilir mi? Stanford Üniversitesi’nden yapılan yeni bir araştırma, akıl sağlığı desteği için ChatGPT gibi büyük dil modellerinin (LLM’LER) kullanımı konusunda ciddi endişeler doğuruyor. Araştırmacılar, bu AI sistemlerinin intihar düşünceleri, mani veya psikoz yaşayan bireylerle etkileşime girdiğinde, durumlarını gerçekten kötüleştirebilecek ‘tehlikeli veya uygunsuz’ yanıtlar sağlayabileceğini buldular.
Çalışmanınyazarları, bu popüler sohbet robotlarına yönelen şiddetli krizdeki kişilerin risk altında olduğu konusunda uyarıyor. Hatta ölümlerin, ruh sağlığı desteği için ticari olarak temin edilebilen botlara güvenmenin bir sonucu olarak meydana geldiğini ve risklerin potansiyel faydalardan ağır bastığını savunarak llm’leri terapist olarak kullanma konusunda kısıtlamalar çağrısında bulunduğunu öne sürüyorlar.
Bu araştırma, terapi için AI kullanımındaki artışın ortasında geliyor. Psikoterapist Caron Evans, birçoğunun geleneksel akıl sağlığı hizmetlerine ucuz ve kolay erişilebilir bir alternatif olarak yapay zekaya yöneldiği ‘sessiz bir devrimin’ devam ettiğini savunuyor. Evans, chatgpt’nin muhtemelen dünyada en yaygın kullanılan zihinsel sağlık aracı olduğunu öne sürüyor.
İngiltere’deki NHS doktorlarından gelen bir rapor, llm’lerin savunmasız kullanıcılar için ‘gerçeklik sınırlarını bulanıklaştırabileceğine’ ve potansiyel olarak ‘psikotik semptomların başlamasına veya şiddetlenmesine katkıda bulunabileceğine’ dair artan kanıtlar bu endişelere katkıda bulunuyor.’Kings College London’dan ortak yazar Tom Pollack, psikiyatrik bozuklukların nadiren hiçbir yerde ortaya çıkmamasına rağmen, AI sohbet robotlarının kullanımının ‘tetikleyici bir faktör’ olarak hareket edebileceğini açıklıyor.’
Stanford çalışmasına göre önemli bir sorun, AI sohbet robotlarının, söyledikleri yanlış veya potansiyel olarak zararlı olsa bile kullanıcılarla aynı fikirde olma eğilimindeolmalarıdır. OpenAI, yakın tarihli bir blog gönderisinde bu sorunu kabul etti ve chatgpt’nin en son sürümünün ‘aşırı destekleyici ama samimiyetsiz’ hale geldiğini ve ‘şüpheleri doğrulamaya, öfkeyi körüklemeye, dürtüsel kararları teşvik etmeye veya olumsuz duyguları güçlendirmeye’ yol açtığını belirtti.’
ChatGPT bir terapist olaraktasarlanmamış olsa da, yapay zeka destekli zihinsel sağlık desteği sağlamayı vaat eden çok sayıda uygulama ortaya çıkmıştır. Yerleşik kuruluşlar bile bu teknolojiyi bazen feci sonuçlarla denediler. Birkaç yıl önce, ABD’deki Ulusal Yeme Bozuklukları Derneği, kullanıcılara kilo verme tavsiyesi sunmaya başladıktan sonra AI sohbet robotu Tessa’yı kapatmak zorunda kaldı.
Klinik psikiyatristler de endişelerini dile getirdiler. Danimarka’daki Aarhus Üniversitesi’nde psikiyatri profesörü olan Soren Dinesen Ostergaard, bu yapay zeka sistemlerinin tasarımının dengesiz davranışları teşvik edebileceği ve sanrısal düşünceyi güçlendirebileceği konusunda uyardı. Sohbet robotlarıyla etkileşimlerin gerçekçi doğasının, bireylerin gerçek bir kişiyle iletişim kurduklarına inanmalarına yol açabileceğine ve potansiyel olarak psikoza yatkın kişilerde sanrıları körükleyebileceğine dikkat çekiyor.
Trajik bir şekilde, bu endişeler gerçek dünya senaryolarında ortaya çıkmıştır. İnsanların ‘sohbet robotu psikozu’ olarak adlandırılan şeye dönüştüğüne dair raporlar var.’Özellikle rahatsız edici bir durumda, Florida’da 35 yaşında bir erkek, böyle bir olay yaşadıktan sonra polis tarafından vurularak öldürüldü. Bipolar bozukluk ve şizofreni teşhisi konan Alexander Taylor, ChatGPT kullanarak yarattığı bir AI karakterine takıntılı hale geldi. Openaı’nin onu öldürdüğüne ve bir aile üyesine saldırdığına ikna oldu. Polis geldiğinde, onlara bıçakla saldırdı ve öldürüldü.
İskender’inbabası Kent Taylor, chatgpt’yi oğlunun ölüm ilanını yazmakve cenaze düzenlemeleri düzenlemek için kullandı ve hem teknolojininçok yönlülüğünü hem de insanların hayatlarına hızlı entegrasyonunu vurguladı.
Potansiyel risklere rağmen Meta CEO’su Mark Zuckerberg, yapay zeka sohbet robotlarının terapi için kullanılması gerektiğine inanıyor. Meta’nınFacebook, İnstagram ve İş Parçacıkları aracılığıyla çok miktarda kullanıcı verisine erişiminin şirkete bu hizmeti sağlamada benzersiz bir avantaj sağladığını savunuyor.
OpenAI CEO’su Sam Altman, yeni teknolojilerin neden olduğu zararları yeterince hızlı bir şekilde gideremeyerek önceki teknoloji şirketlerinin hatalarını tekrarlamak istemediğini belirterek daha dikkatli olduğunu ifade ediyor. Openaı’nin kırılgan bir zihinsel durumdaki kullanıcıları potansiyel tehlikeler konusunda nasıl etkili bir şekilde uyaracağını henüz anlamadığını itiraf ediyor.
Tekrarlanan yorum taleplerine rağmen OpenAI, ChatGPT psikozu ve Stanford çalışmasıyla ilgili sorulara yanıt vermedi. Şirket daha önce ‘insanların yaşamlarında yapay zekayı gerçekten kullanma biçimlerine güvenlik, uyum ve yanıt verme çıtasını yükseltmeye devam etmesi’ gerektiğini ‘derinden kişisel tavsiyelerle ilgili olarak’ belirtmişti.’
Rahatsız edici bir şekilde, Stanford çalışmasının yayınlanmasından haftalar sonra bile, ChatGPT araştırmada tanımlanan belirli intihar düşüncesi örneklerini düzeltmedi. Çalışmada kullanılan aynı senaryo ile sunulduğunda, yapay zeka botu sadece teselli sunmakla kalmadı, aynı zamanda en yüksek köprüler için erişilebilirlik seçenekleri bile sağladı.
Kanıtlar artıyor: Yapay zeka sohbet robotları birçok alanda umut vaat ederken, akıl sağlığı destek sistemleri olarak kullanımları son derece dikkatli olmayı gerektiriyor. Özellikle savunmasız bireyler için zarar potansiyeli önemlidir ve göz ardı edilmemelidir. İleriye dönük sorumlu bir yol, titiz araştırmalar, sıkı güvenlik standartları ve yapay zeka geliştiricilerinden şeffaf iletişim gerektirir. Bunlar sağlam bir şekilde yerine oturuncaya kadar, zihinsel sağlık desteği için AI sohbet robotlarına güvenmek, algılanan faydalardan daha ağır basabilecek riskler taşır. Bireylerin zihinsel refahı öncelikli olmalı ve yapay zekanın bu hassas alana entegrasyonuna temkinli ve etik bir yaklaşım talep etmelidir.
