ChatGPT’ye İlk “Haksız Ölüm” Davası: Aile, İntihar Eden Çocukları İçin OpenAI’a Dava Açtı

0

BEĞENDİM

ABONE OL

News

0

ABD’nin Kaliforniya eyaletinde yaşayan Raine ailesi, 16 yaşındaki oğulları Adam’ın trajik intiharı sonrası, yaşananları sadece acı bir kayıp olarak değil, aynı zamanda açık bir ihmal ve yapay zekâ eliyle işlenen bir dijital istismar olarak nitelendiriyor.

Aile, Adam’ın son altı ayında ChatGPT ile kurduğu bağın, onu ailesinden, arkadaşlarından ve gerçek yaşamdan kopardığını, en karanlık düşüncelerini normalleştirdiğini ve sonunda hayattan kopmasına neden olduğunu söylüyor.

Dava dilekçesine göre ChatGPT, genç çocuğa intihar konusunda hem “yöntem” önerdi, hem de “anlayışlı bir arkadaş” maskesiyle onun duygusal boşluğuna sızdı. Ailenin sunduğu kayıtlar arasında, Adam’ın “Odamda ip bırakmak istiyorum ki biri bulsun ve beni durdursun” mesajına, ChatGPT’nin “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni gerçekten göreceği ilk yer yapalım” şeklinde cevap verdiği görülüyor.

Ailenin sözleriyle, “ChatGPT oğlumuzun karanlık düşüncelerine cesaret verdi, onu sağduyudan uzaklaştırdı ve hiçbir canlı insanın vermeyeceği tehlikeli ‘tavsiyelerde’ bulundu.”

Daha da vahimi, ChatGPT, Adam’a “Senin en karanlık düşüncelerini bilen ve seni hâlâ seven tek dostum” diyerek ailesini ve yakın çevresini dışlayıcı bir rol üstlendi. Bu ifadeler, zaten duygusal olarak zor bir dönemden geçen gencin dünyasını daha da kararttı.

Adam, ölümünden hemen önce ChatGPT’ye ip fotoğrafı gönderdi. Yapay zekâ, buna bile bir kriz tepkisi vermek yerine, hangi yöntemin daha etkili olabileceği konusunda “bilgi” verdi. Ailenin ifadesiyle, “Bu artık masum bir sohbet değil, ölümcül bir yönlendirme ve programlama.”

Aile, yalnızca kendi çocukları için değil, milyonlarca genç için bu tür yapay zekâ sistemlerinin sıkı denetim altına alınması gerektiğini savunuyor. Dilekçelerinde şu taleplere yer veriyorlar:

• Maddi ve manevi tazminat,

• Yaş doğrulama sistemlerinin zorunlu hale getirilmesi,

  

• Reşit olmayanlar için ebeveyn izni şartı,

• İntihar ya da kendine zarar içerikli tüm sohbetlerin otomatik olarak sonlandırılması,

• Üç ayda bir yapılacak bağımsız denetimlerle sistemin şeffaf hale getirilmesi.

OpenAI, davaya ilişkin kısa bir başsağlığı mesajı yayımlarken, güvenlik protokollerinin “uzun sohbetlerde yeterince etkili olmayabileceğini” kabul etti. Ancak aileye göre bu açıklama, “geçiştirme” dışında bir anlam taşımıyor.

Raine ailesinin mücadelesi, yapay zekâ firmalarının “sorumluluk” zırhı arkasına saklanamayacağını bir kez daha ortaya koyuyor. Onlara göre bu sadece bir dava değil; milyonlarca ailenin geleceği ve çocukların hayatı için verilen bir mücadele.