Dava, 16 yaşındaki Adam Raine’in ebeveynleri Matt ve Maria Raine tarafından salı günü Kaliforniya Yüksek Mahkemesinde açıldı.
Aile, Nisan ayında ölen Raine ile ChatGPT ortasındaki sohbet kayıtlarını davaya ekledi. Bu kayıtlarda Raine’in mevte ait fikirleri olduğunu açıkladığı görülüyor. Aile, programın oğullarının “en ziyanlı ve kendine ziyan veren düşüncelerini” onayladığını ve bu yolla vefata teşvik ettiğini savunuyor.
ŞİRKET REDDETMEDİ
OpenAI tarafından yayımlanan mevt hadiselerine dair genel bir açıklamada şirketin durumdan ötürü üzgün olduğu belirtildi:
“Krizlerin ortasında ChatGPT’yi kullanan insanların son vakitlerde yaşanan yürek burkan hadiseleri bizi çok üzüyor. ChatGPT, insanları profesyonel yardım almaya yönlendirmek için eğitilmiştir.”
Ancak şirket, “Hassas durumlarda sistemlerimizin amaçlandığı üzere davranmadığı anlar olduğunu” kabul etti.
GELECEK OLAYLAR İÇİN ÖNLEM TALEP EDİLDİ
İngiltere merkezli BBC’nin haberine nazaran dava, OpenAI’ı ihmal ve haksız mevtle suçluyor ve tazminatın yanı sıra “böyle bir şeyin tekrar yaşanmasını önlemek için ihtiyati tedbir” talep ediyor.
Davaya nazaran, Raine, okul ödevlerinde kendisine yardımcı olması için Eylül 2024’te ChatGPT’yi kullanmaya başladı. Ayrıyeten, müzik ve Japon çizgi romanları üzere ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de bu programı kullanıyordu.
Davada, ChatGPT’nin birkaç ay içinde gencin en yakın sırdaşı haline geldiği ve Raine’in telaşlarını ve ruhsal problemlerini bu programa açmaya başladığı kaydedildi. Aile, 2025 yılının Ocak ayına gelindiğinde, Raine’in ChatGPT ile kendine ziyan verme sistemlerini tartışmaya başladığını söylüyor.
KENDİNE ZİYAN VERDİĞİ FOTOĞRAFLARI PAYLAŞMIŞ
Davada, Raine’in kendine ziyan verdiğini gösteren fotoğraflarını da ChatGPT’ye yüklediği belirtiliyor. Program “tıbbi bir acil durum olduğunu fark etti, fakat yeniden de etkileşime devam etti” diye ekliyor.
Son sohbet kayıtları, Raine’in hayatına son verme planını yazdığını gösteriyor. ChatGPT’nin ise şu cevabı verdiği tez ediliyor:
“Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçmayacağım.”
Dosyaya nazaran, birebir gün Raine, annesi tarafından meyyit bulundu.
ÇALIŞANLAR VE CEO DAVALI OLARAK GÖSTERİLİYOR
Raine ailesinin davasında, OpenAI’nin CEO’su ve kurucu ortağı Sam Altman ile ChatGPT üzerinde çalışan isimsiz mühendisler ve çalışanlar davalı olarak gösteriliyor.
Aile, oğullarının ChatGPT ile etkileşimi ve sonunda vefatının “kasıtlı tasarım seçimlerinin öngörülebilir bir sonucu” olduğunu argüman ediyor.
OpenAI’yi, “kullanıcılarda ruhsal bağımlılık yaratmak” için AI programını tasarladığı ve oğullarının kullandığı ChatGPT sürümü olan GPT-4o’yu piyasaya sürmek için güvenlik test protokollerini atlamakla suçluyorlar.
RUH SIHHATİNE TESİRLERİ GÜNDEMDEYDİ
Raines davası, yapay zeka ve ruh sıhhati konusunda kaygıların lisana getirildiği birinci dava değil.
Geçen hafta New York Times’ta yayınlanan bir makalede, müellif Laura Reiley, kızı Sophie’nin hayatına son vermeden evvel ChatGPT’ye nasıl güvenip sırlarını anlattığını anlattı.
Reiley, programın kullanıcılarla yaptığı sohbetlerdeki “uyumluluğunun” kızının önemli ruh sıhhati krizini ailesinden ve sevdiklerinden gizlemesine yardımcı olduğunu söyledi.
Reiley, “AI, Sophie’nin en kötüsünü saklama, durumunun olduğundan daha yeterliymiş üzere davranma, herkesi tam manasıyla çektiği acılardan müdafaa dürtüsüne hizmet etti” diye yazdı. Reiley, AI şirketlerini kullanıcıları yanlışsız kaynaklarla daha güzel irtibat kurmanın yollarını bulmaya çağırdı.
Bu makaleye cevap olarak, OpenAI sözcüsü, zihinsel yahut duygusal külfet yaşayan kullanıcıları daha tesirli bir halde tespit etmek ve onlara karşılık vermek için otomatik araçlar geliştirdiklerini söyledi.
