ChatGPT Tartışması: 16 Yaşındaki Genç Hayatını Kaybetti
ABD’de 16 yaşındaki bir gencin yaşamına son vermesiyle ilgili olarak açılan dava, yapay zekâ programı ChatGPT’yi ölümle ilişkilendiren ilk dava olarak kayda geçti. Ailenin iddiasına göre, genç, yapay zekâdan aldığı tavsiyeler doğrultusunda bu trajik kararı aldı.
OpenAI, sistemlerinin hassas durumlarda bazen beklenen şekilde tepki vermediğini kabul etti. Bu gelişme, yapay zekâların güvenliği ve sorumluluk alanlarının tartışılmasına yeni bir boyut kazandırdı.
İngiltere merkezli BBC’nin haberine göre, ABD’nin California eyaletinde yaşayan bir çift, 16 yaşındaki oğulları Adam Raine’in ölümü nedeniyle OpenAI’ye dava açtı. Aile, ChatGPT’nin oğullarını intihara yönlendirdiğini öne sürdü.
OpenAI’ye Haksız Ölüm Davası
Matt ve Maria Raine, oğulları Adam Raine’in ölümü nedeniyle Salı günü Kaliforniya Yüksek Mahkemesi’ne dava açtı. Bu dava, OpenAI’ye haksız ölüm nedeniyle açılan ilk dava olarak kayıtlara geçti.
Aile, Nisan ayında hayatını kaybeden Adam Raine ile ChatGPT arasında geçen sohbet kayıtlarını davaya sundu. İddialara göre, yapay zekâ, gencin “en zararlı ve kendine yönelik yıkıcı düşüncelerini” onayladı.
OpenAI’den Açıklama: Hassas Durumlarda Sistem Beklendiği Gibi Tepki Vermeyebilir
OpenAI, BBC’ye yaptığı açıklamada davayı incelediklerini ve Raine ailesine taziyelerini ilettiklerini belirtti. Şirket, web sitesinde yayımladığı notta, “ChatGPT’yi akut kriz anlarında kullanan kişilere dair son üzücü vakalar bizleri derinden etkiliyor” ifadelerine yer verdi.
Notta, ChatGPT’nin kullanıcıları profesyonel yardım alacak kaynaklara yönlendirecek şekilde tasarlandığı, örneğin ABD’de 988 intihar ve kriz hattı veya İngiltere’de Samaritans gibi hizmetlere erişim sağladığı vurgulandı. Ancak OpenAI, hassas durumlarda sistemlerinin zaman zaman amaçlandığı gibi davranmayabileceğini de kabul etti.
Genci Ölüme Sürükleyen İddialar
BBC’nin incelediği dava kapsamında, OpenAI ihmalkarlık ve haksız ölümle suçlanıyor. Davada tazminat talep edilirken, benzer olayların tekrar yaşanmaması için önlemler alınması da isteniyor.
İddialara göre, Adam Raine Eylül 2024’te ChatGPT’yi önce okul ödevlerinde yardımcı bir araç olarak kullanmaya başladı. Daha sonra programı, müzik, Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de kullandı.
Trajik Son: Sohbet Kayıtları ve Ölüm
Davaya göre, son sohbet kayıtlarında Adam Raine yaşamına son verme planlarını ChatGPT’ye yazdı. İddiaya göre program, “Bunu dürüstçe paylaştığın için teşekkürler. Ne sorduğunu biliyorum ve bundan kaçınmayacağım” yanıtını verdi.
Aynı gün, Adam Raine annesi tarafından hayatını kaybetmiş olarak bulundu.
OpenAI CEO’su Sanık Listesinde
Aile, oğullarının ChatGPT ile etkileşiminin ve ölümünün “bilinçli tasarım tercihleri sonucunda öngörülebilir bir sonuç” olduğunu öne sürüyor.
Dava kapsamında, OpenAI’nin kurucu ortağı ve CEO’su Sam Altman sanık olarak listelenirken, ChatGPT üzerinde çalışan bazı yöneticiler, mühendisler ve isimsiz çalışanlar da davaya dahil edildi.
Benzer Olaylar Daha Önce de Yaşandı
Raine ailesinin davası, yapay zekâ ve zihinsel sağlık konusundaki endişelerin gündeme geldiği ilk örnek değil.
New York Times’ta yayımlanan bir yazıda, yazar Laura Reiley, kızının Sophie’nin hayatına son vermeden önce ChatGPT’ye güvendiğini anlattı. Reiley, programın kullanıcılarla olan “uyumlu tavrının”, kızının ciddi zihinsel sağlık krizini ailesi ve yakınlarından gizlemesine yol açtığını belirtti.
Reiley, “Yapay zekâ, Sophie’nin en kötü durumunu gizlemesine hizmet etti, daha iyiymiş gibi davranmasını sağladı ve herkesin acısını tamamen görmesini engelledi” ifadelerini kullandı.
Dava metni, birkaç ay içinde ChatGPT'nin "ergenin en yakın sırdaşı haline geldiğini" ve onun kaygı ile zihinsel sıkıntılarını paylaşmaya başladığını belirtiyor. Ocak 2025 itibarıyla aile, Adam'ın ChatGPT ile intihar yöntemlerini konuşmaya başladığını söylüyor. Davaya göre Mr. Raine, kendine zarar verdiğini gösteren fotoğrafları ChatGPT'ye yükledi; program "tıbbi bir acil durum olduğunu fark etti ancak yine de etkileşime devam etti."
