Character AI davasında yeni gelişme

Character AI davasında yeni gelişme

14 yaşındaki bir gencin intiharının ardından dava edilen Character AI, yasal savunmasında ifade özgürlüğünü koruyan Birinci Değişiklik hakkına atıfta bulundu.

ABD merkezli Character AI, kullanıcıların yapay zekâ chatbotlarıyla etkileşimde bulunmasını sağlayan bir platform olarak gündemde. Şirket, bir gencin intiharıyla ilgili açılan davada, ifade özgürlüğünü garanti eden Birinci Değişiklik'e dayanarak davanın düşürülmesini talep etti.

2024 yılının Ekim ayında Megan Garcia, oğlu Sewell Setzer III'ün intiharı üzerine Florida Orta Bölge Mahkemesi'nde Character AI'ya dava açtı. Garcia, oğlunun platformda "Dany" isimli bir chatbot ile güçlü bir duygusal bağ kurduğunu ve gerçek hayattan kopmaya başladığını iddia etti. Bu trajik olay sonrası Character AI, hizmet koşullarını ihlal eden sohbetlere karşı güvenlik önlemlerini artırdığını duyurdu. Ancak Garcia, hikâye anlatımı ve kişisel anekdotlar gibi özelliklerin kaldırılması da dahil olmak üzere daha fazla düzenleme talep ediyor.

hero-image.webp

Character AI’nın avukatları, kullanıcıların platformdaki ifadelerinin Birinci Değişiklik kapsamında olduğunu ve bu tür ifadeler nedeniyle şirketin sorumlu tutulamayacağını belirtti. Şirket ayrıca, davanın başarılı olması durumunda hem kendi işleyişini hem de yapay zekâ sektörünü ciddi şekilde etkileyecek bir "soğutucu etki" yaratacağını ifade etti.

Davada, Character AI'nın yanı sıra, şirketin destekçisi olan Alphabet de sanık olarak yer alıyor. Şirket, kullanıcılarının güvenliğini artırmak adına gençler için ayrı bir yapay zekâ modeli, hassas içeriklere yönelik blokajlar ve botların gerçek olmadığını vurgulayan uyarılar gibi önlemler aldığını belirtti. Buna rağmen, başka davalar da Character AI’yı reşit olmayan kullanıcılara yönelik uygunsuz içerik sağlamakla suçluyor.

Texas Başsavcısı Ken Paxton ise Aralık 2024'te, çocukların çevrim içi gizlilik ve güvenliğiyle ilgili yasaları ihlal ettiği iddiasıyla Character AI ve diğer 14 teknoloji şirketine yönelik bir soruşturma başlattı. Paxton, bu tür soruşturmaların, sosyal medya ve yapay zekâ şirketlerinin çocukları sömürüye karşı koruyan yasalara uymasını sağlamak için kritik olduğunu belirtti.

Yapay zekâ dostluk uygulamalarının hızla büyüyen bu sektörü, uzmanlar tarafından dikkatle izleniyor. Uzmanlar, bu tür uygulamaların yalnızlık ve kaygı gibi duyguları artırabileceğinden endişe duyuyor. 2021’de Google AI araştırmacısı Noam Shazeer tarafından kurulan Character AI, geçtiğimiz yıllarda 2,7 milyar dolarlık bir "ters satın alma" anlaşmasıyla dikkat çekmişti.

character-ai-2.webp