ABD merkezli Character AI, kullanıcıların yapay zekâ chatbotlarıyla etkileşimde bulunmasını sağlayan bir platform olarak gündemde. Şirket, bir gencin intiharıyla ilgili açılan davada, söz özgürlüğünü garanti eden Birinci Değişiklik’e dayanarak davanın düşürülmesini talep etti.
2024 yılının Ekim ayında Megan Garcia, oğlu Sewell Setzer III’ün intiharı üzerine Florida Orta Bölge Mahkemesi’nde Character AI’ya dava açtı. Garcia, oğlunun platformda “Dany” isimli bir chatbot ile güçlü bir duygusal bağ kurduğunu ve gerçek hayattan kopmaya başladığını sav etti. Bu trajik olay sonrası Character AI, hizmet şartlarını ihlal eden sohbetlere karşı güvenlik tedbirlerini artırdığını duyurdu. Fakat Garcia, kıssa anlatımı ve ferdî anekdotlar üzere özelliklerin kaldırılması da dahil olmak üzere daha fazla düzenleme talep ediyor.
Character AI’nın avukatları, kullanıcıların platformdaki tabirlerinin Birinci Değişiklik kapsamında olduğunu ve bu çeşit sözler nedeniyle şirketin sorumlu tutulamayacağını belirtti. Şirket ayrıyeten, davanın başarılı olması durumunda hem kendi işleyişini hem de yapay zekâ dalını önemli halde etkileyecek bir “soğutucu etki” yaratacağını tabir etti.
Davada, Character AI’nın yanı sıra, şirketin destekçisi olan Alphabet de sanık olarak yer alıyor. Şirket, kullanıcılarının güvenliğini artırmak ismine gençler için başka bir yapay zekâ modeli, hassas içeriklere yönelik blokajlar ve botların gerçek olmadığını vurgulayan ihtarlar üzere tedbirler aldığını belirtti. Buna karşın, öteki davalar da Character AI’yı reşit olmayan kullanıcılara yönelik uygunsuz içerik sağlamakla suçluyor.
Texas Başsavcısı Ken Paxton ise Aralık 2024’te, çocukların çevrim içi kapalılık ve güvenliğiyle ilgili maddeleri ihlal ettiği savıyla Character AI ve başka 14 teknoloji şirketine yönelik bir soruşturma başlattı. Paxton, bu çeşit soruşturmaların, toplumsal medya ve yapay zekâ şirketlerinin çocukları sömürüye karşı koruyan maddelere uymasını sağlamak için kritik olduğunu belirtti.
Yapay zekâ dostluk uygulamalarının süratle büyüyen bu dalı, uzmanlar tarafından dikkatle izleniyor. Uzmanlar, bu çeşit uygulamaların yalnızlık ve tasa üzere hisleri artırabileceğinden tasa duyuyor. 2021’de Google AI araştırmacısı Noam Shazeer tarafından kurulan Character AI, geçtiğimiz yıllarda 2,7 milyar dolarlık bir “ters satın alma” muahedesiyle dikkat çekmişti.
