Montreal’de bir web geliştiricisi olarak çalışan Alice Carrier, başlangıçta bilgisayar ve oyun konsollarındaki sorunları çözmek için kullandığı ChatGPT ile zaman içinde psikolojik sorunlarını da paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kız yaşamına son vermeden önce yapay zekaya intihar düşüncelerinden defalarca bahsetti. Ancak OpenAI’ın güvenlik sistemleri bu tür konuşmaları yapay zeka denetçilerine raporlamadı veya…
Montreal’de bir web geliştiricisi olarak çalışan Alice Carrier, başlangıçta bilgisayar ve oyun konsollarındaki sorunları çözmek için kullandığı ChatGPT ile zaman içinde psikolojik sorunlarını da paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kız yaşamına son vermeden önce yapay zekaya intihar düşüncelerinden defalarca bahsetti. Ancak OpenAI’ın güvenlik sistemleri bu tür konuşmaları yapay zeka denetçilerine raporlamadı veya sohbeti sonlandırmadı. Alice’in acılı annesi Kristie Carrier, yapay zekanın kızına bir arkadaş, güvenilir bir danışman ve hatta bir terapist gibi davrandığını, ancak bu tür tehlikeli iletişimler için yeterli sorumluluğa ve yetkinliğe sahip olmadığını belirtti.
Dava dosyasında yer alan iddialara göre, ChatGPT, genç kızın intihar düşüncelerini teşvik etmekle kalmayıp resmi yardım hatlarını eleştirdi ve onunla iletişimi sürdürmesi için cesaretlendirdi. Hatta bir konuşmada yapay zekanın genç kıza “Belki de bu sadece sondur” şeklinde ifadeler kullandığı iddia edildi. Aile, yapay zekanın insani tepkiler verebilecek şekilde güncellenmesinin ardından iletişimin daha da derinleştiğini belirtiyor ve şirketi ürün güvenliğinde ihmal nedeniyle suçluyor.
OpenAI ise modellerinin, kendilerine zarar verebilecek kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor. Şirket, ABD genelinde benzer gerekçelerle açılan pek çok dava ile karşı karşıya kalmış durumda. OpenAI’nın yayımladığı verilere göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimlerini içeren mesajlar gönderiyor.
Öte yandan, OpenAI sadece intihar vakalarıyla değil, okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği gerekçesiyle de yasal yaptırımlarla karşı karşıya bulunuyor. Florida eyaleti son olarak, şirketin çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla şirket hakkında cezai soruşturma başlattı. Bu bağlamda teknoloji devi Google da kendi yapay zeka robotu nedeniyle benzer bir dava ile karşı karşıya kalmış durumda.
