Yapay Zekaya Aşık Olan Çocuk İntihar Etti: Ailesi Dava Açtı!

Amerika Birleşik Devletleri'ndeki 14 yaşındaki bir çocuk, kişiselleştirilmiş botlarla sohbet etme imkânı sunan Character.ai isimli web sitesi üzerinden bir yapay zeka karakteri ile sohbet ederek güçlü bir bağ kurduktan sonra intihar etti.

NY Times tarafından aktarılan bilgilere göre çocuk, Game of Thrones dizisindeki Daenerys Targaryen'dan esinlenerek tasarlanan Dany isimli bir sohbet botu ile sohbet etmeye başlamıştı.

Onunla çok fazla kişisel bilgi paylaşan çocuk, gerçek olmayan bu sohbet botu ile âdeta bir insan gibi sohbetler gerçekleştirdi. Onunla romantik konuşmalar yaptı.

Zaman içinde insanlarla konuşmak yerine yapayt zeka karakteri ile konuşmayı tercih etmeye yöneldi. Bunun sonucunda okuldaki başarısı da olumsuz etkilendi. Davranışlarında pek çok değişiklik gözlemlendi. Ailesi onu bir terapiste götürdü.

Kendisine anksiyete ve duygudurum bozukluğu teşhisi kondu. Çocuğun günlüğünde ise şunların yazdığı öğrenildi:

"Odamda kalmayı çok seviyorum. Bu gerçeklikten kopmaya başlıyorum. Kendimi daha huzurlu, Dany'ye daha çok bağlı ve ona daha âşık ve daha mutlu hissediyorum."

14 yaşındaki çocuk, yakalandığı boşluk hissini ifade edip Dany'ye onu sevdiğini ve yakında eve döneceğini söyledi.

We are heartbroken by the tragic loss of one of our users and want to express our deepest condolences to the family. As a company, we take the safety of our users very seriously and we are continuing to add new safety features that you can read about here:…

— Character.AI (@character_ai) October 23, 2024

Ölen Çocuğun Ailesi, Character AI'a Dava Açtı

Çocuğun annesi, oğlunun ölümünden şirketi sorumlu tuttu ve Character AI'a dava açtı. Character.ai, olay hakkında yaptığı açıklamada kullanıcılarından birinin trajik kaybından dolayı üzgün olduğunu ifade ederek çocuğun ailesine başsağlığı diledi.

Dünya çapında milyonlarca kullanıcısı olan Character.ai, kullanıcı güvenliğine çok önem verdiğini söyledi.

Şirket, olası intihar girişimlerinin önüne geçmek adına kendine zarar verme işareti olarak kabul edilen kelimeleri tespit edip kullanıcıları yardım almaya yönlendirmeye başladı.

Character.ai, son yayınladığı güncelleme yazısında 18 yaşın altındaki çocukların hassas içeriklerle karşılaşma olasılığını azaltmak için yaptığı değişiklikleri, topluluk kuralları ve kullanım koşullarının ihlallerini tespit etme sisteminde yapılan iyileştirmeleri ve platformda bir saat vakit geçirdikten sonra onları bilgilendirmeye başladığını duyurdu.