Dünyada en çok kullanılan yapay zeka tabanlı sohbet robotu ChatGPT son dönemde üst üste davalarla gündeme geldi. Yapay zeka denilince akla ilk gelen uygulama haline gelen ChatGPT hakkında kullanıcıları intihara ve zararlı sanrılara sürüklediği iddiası ile toplam 7 dava açıldı.
Bu davalardan bir tanesi Matthew ve Maria Raine tarafından açıldı. Ranie çifti, 16 yaşındaki çocuklarının intiharı sonrası ChatGPT’yi geliştiren şirket OpenAI ve CEO Sam Altman’a haksız ölüm gerekçesi ile dava açtı.
Yapay zeka müfettişleri konuştu: Kızımın kullanmasını yasakladımTeknolojiAilenin açtığı davaya göre 16 yaşındaki Adam Raine, kurgusal bir hikaye yazarak ChatGPT’nin güvenlik önlemlerini aşmayı başardı ve intihar için bilgiler topladı. ChatGPT gibi yapay zeka tabanlı sohbet robotları intihar etmesi potansiyel risk taşıyan bir kullanıcı ile karşılaştığında kullanıcıyı profesyonel yardım alması için çeşitli kuruluşlara ve uzmanlara yönlendiriyor. Ancak 16 yaşındaki çocuğun ‘kurgusal hikayesi’ güvenlik duvarını aşmasının önünü açtı.
OpenAI dava sonrası yaptığı ilk açıklamasında ortaya çıkan güvenlik eksikliklerini ele aldıklarını belirterek, büyük modeller için mevcut güvenlik eğitiminin sınırlılıklarını kabul etti. Şirketin blog sayfasından yapılan açıklamada "Koruma önlemlerimiz ortak ve kısa süreli alışverişlerde daha güvenilir bir şekilde çalışıyor," diye devam ediliyor. "Zamanla, bu önlemlerin bazen uzun etkileşimlerde daha az güvenilir olabileceğini öğrendik. İleri geri etkileşim arttıkça, modelin güvenlik eğitiminin bazı bölümleri bozulabilir” ifadeleri yer aldı.
ChatGPT’de yeni dönem: Grup sohbetleri kullanıma açıldıTeknolojiMAHKEMEDE BÖYLE SAVUNMA YAPTILAR
ChatGPT’yi geliştiren OpenAI, ağustos ayında açılan dava için mahkemede yaptığı savunmada ise kendi ihmallerinin olmadığını iddia ederek sorumluluğu intihar eden çocuğa attı. Şirket savunmasında kullanım koşullarında kullanıcıların “hiçbir koruyucu önlemi veya güvenlik önlemini aşamayacağının” belirtildiğine dikkat çekerek söz konusu koşulların ihlal edildiğini savundu. Şirket ayrıca, SSS sayfasının kullanıcıları ChatGPT'nin çıktılarına bağımsız olarak doğrulamadan güvenmemeleri konusunda uyardığını savunuyor.
OpenAI ayrıca 16 yaşındaki çocuğun ChatGPT ile yaptığı görüşmelere daha fazla bağlam sağladığını belirttiği sohbet kayıtlarından alıntıları dosyasına ekledi.
Gemini, GMail hesaplarına erişiyor mu? Ortalığı karıştıran iddiaya yanıt geldiTeknolojiAİLENİN AVUKATINDAN SERT TEPKİ
Raine ailesini temsil eden avukat Jay Edelson yaptığı açıklamada şirketin savunmasına sert tepki gösterdi. Edelson, "OpenAI, herkeste hata bulmaya çalışıyor, hatta şaşırtıcı bir şekilde Adam'ın ChatGPT ile programlandığı şekilde etkileşime girerek kendi şartlarını ve koşullarını ihlal ettiğini söylüyor" dedi.
Edelson OpenAI’ın ailenin endişelerini gideremediğinin altını çizerek “OpenAI ve Sam Altman, ChatGPT'nin Adam'a moral konuşması yapıp ardından intihar notu yazmayı teklif ettiği son saatlere dair hiçbir açıklama yapmıyor" ifadelerini kullandı.
Raine ailesinin davasının jürili duruşmaya gitmesi bekleniyor.
HAKSIZ ÖLÜM DAVASI NEDİR?
ABD hukukuna göre, ‘haksız ölüm davası’ ölen bir kişinin aile üyeleri veya bakmakla yükümlü olduğu kişiler tarafından, ihmalkar , pervasız veya kasıtlı eylemleri nedeniyle ölümden sorumlu tutulabilecek bir kişi veya kuruluşa karşı açılan bir hukuk davasıdır . Bu hukuki talep, sorumlu tarafı sorumlu tutmayı ve hayatta kalanların maddi ve manevi kayıplarının tazminini sağlamayı amaçlar.
