Snapchat’in yeni sohbet botu “My AI”, geçtiğimiz hafta tüm kullanıcılar için kullanıma sunulur sunulmaz insanları ikiye böldü. Özellikle Missouri’den Lyndsi Lee, 13 yaşındaki kızını bu özellikten şimdilik uzak tutmaya karar verdiğini söyledi:
Kızımı koruyabilmek adına sağlıklı sınırlar koyana kadar bu geçici bir çözüm. Kızıma, insanlarla makineleri duygusal olarak nasıl ayırt edeceğini öğretmeye hazır olduğumu düşünmüyorum. Bu çok ciddi bir çizginin aşılması.
Peki bu anne neden bu kadar korkuyor? İşte sebebi...
My AI Sohbet Botundan Ziyade İnsan Gibi
Snapchat’in “My AI” sohbet botu, OpenAI’nin popüler ChatGPT’si ile güçlendirilmiş. Kullanıcılar bu bot ile sohbet edebilir, öneriler alabilir hatta ona bir isim ve avatar bile tasarlayabilirler.
Tabii bot ile yapılan sohbetlerin en dikkat çeken özelliği; sıradan bir yapay zeka sohbetinden daha insansı hissettirmesiyle dikkat çekiyor.
Bir kullanıcı, botun yanlış bilgi verdiğini fakat daha sonra yaşadığı yer olan Colorado’yu doğru tahmin ettiğini belirtti ve durumu korkutucu olarak nitelendirdi. Bir diğer kullanıcı, botun kendi yazdığı şarkıyı inkar ettiğini söyleyerek durumu ürkütücü buldu.
Başka bir kullanıcı ise arkadaşlarıyla çekildiği bir fotoğrafı gönderdi. Bot, önce ayakkabılarının güzel olduğuna dair yorum yaptı, sonra fotoğraftaki kişilerin isimlerini sorararak kullanıcıyı huzursuz etti.
"Sohbet Botları Arkadaşınız Değil!"
Snapchat, gelen tepkiler doğrultusunda özellik üzerinde çalıştığını ve kullanıcıları güvende tutmak için yeni önlemler aldığını duyurdu. Ama uzmanlara göre burada sorumluluk yalnızca Snapchat yetkililerinde değil. Ebeveynlerin de sorumluluk alması gerektiğini vurguluyor ve gençlere uyarıda bulunuyor:
Sohbet botları sizin arkadaşınız değil! Terapistiniz ya da güvenilir bir danışmanınız da değiller. Gençler, bu tür botlara karşı çok dikkatli olmalı. Olumsuz bir ruh hali içindeki bir genç, bu durumu daha da kötüleştirecek bir konuşma arayabilir ve bu, zamanla öz değer algısını zedeleyebilir.
Bu noktada, hem ebeveynlere hem de teknoloji şirketlerine büyük bir sorumluluk düşüyor. Yapay zekanın hayatımıza daha fazla entegre olduğu bu dönemde, özellikle genç kullanıcıların güvenliğini sağlamak kritik öneme sahip. Özellikle yapay zeka botları yüzünden canına kıyan gençler olduğunu düşünürsek, endişelenmekte haksız da değiller.
YORUMLAR