Kız ve erkek arkadaş olarak kullanılan yapay zeka sohbet robotları, yeni bir araştırmaya göre "ürpertici" olarak nitelendirilebilecek bilgiler topluyor. Bu durum da araçların gizlilik standartlarını karşılamadığını ortaya koyuyor.
Mozilla Vakfı'ndaki araştırmacıların incelediği Replika ve Eva AI da dahil 11 yapay zeka sohbet robotu, kuruluşun güvenlik ihtiyacını karşılamadı. Bu da kuruluşların şimdiye kadarki gizlilik açısından incelediği en kötü ürün kategorileriyle aynı seviyede olduğunu gösteriyor.
Kişisel Verileri Toplayan Yapay Zeka Araçları
Kullanıcılara "romantik ilişki" kurma imkanı sunan yapay zeka sohbet robotları geçtiğimiz sene büyük bir büyümeye imza attı. Google'da "yapay zeka kız arkadaş" araması dahi 3 milyarın üzerine çıktı.
Bu robotların hızlı bir şekilde popüler olması, ChatGPT gibi insan benzeri yanıtlar verebilen gelişmiş üretken yapay zeka modellerinin piyasaya hızlı bir şekilde sürülmesinin ardından gerçekleşti.
Mozilla da popüler sohbet botları söz konusu olduğunda, asgari güvenlik standartlarını karşılamak için kişisel bilgilerin şifrelenmesi de dahil olmak üzere birkaç farklı "tehlike işareti" bulunduğunu açıkladı.
Mozilla Vakfı'nın Privacy Not Included projesinden bir araştırmacı olan Misha Rykov konuyla ilgili şu açıklamaları yaptı: "Tamamen açık konuşmak gerekirse, yapay zeka kız arkadaşlar dostunuz değil. Ruh sağlığınızı ve refahınızı artıracak bir şey olarak pazarlanmalarına rağmen, sizden mümkün olduğunca fazla veri alırken bağımlılık, yalnızlık ve toksisite sağlamakta uzmanlaşıyorlar."
Yapay Zeka Sohbet Robotlarına Karşı Dikkatli Olunmalı
Yapılan araştırmanın Sevgililer Günü'ne denk gelecek şekilde ve romantik yapay zeka sohbet botlarının kullanıcıların kişisel bilgilerini rahatsız edici şekilde ihlal ettiği uyarısının bulunduğu blog yazısı ile yayınlanması son derece manidar.
Aylık ücreti 17 dolar civarında olan Eva AI Chat Bot & Soulmate ile ilgili raporda, iyi bir gizlilik politikası olsa da buna rağmen kişisel bilgiler için "saldırgan" hamlelerde bulunduğu kaydedildi.
Vakfın internet sitesinde yazıda şu notlar düşülüyor: "Eva AI sohbet botu, gizlilik politikaları incelediğimiz en iyi politikalardan biri gibi görünse bile, kullanıcıları tonlarca kişisel bilgiyi paylaşmaya gerçekten zorlamasıyla epey ürkütücü hissettiriyor. Gizlilik politikalarının halihazırda bu bilgileri paylaşmadıklarını ya da satmadıklarını söylüyor olması, gelecekte bu politikanın değişmeyeceği anlamına gelmiyor."
Araştırmacılar, kullanıcıların bu sohbet robotlarıyla hassas bilgilerini paylaşmamaları ve uygulamayı kullanmadıklarında verilerini silmeleri yönünde uyardı. Sık bir şekilde coğrafi konum takibine izin vermemeleri, cihazdaki fotoğraf, video veya kamera erişim izinlerininde kapalı olması gerektiğine yönelik tavsiyeler verdi.
YORUMLAR