Google'ın güçlü yapay zeka modeli Gemini, bir yüksek lisans öğrencisine ödev yardımı sırasında beklenmedik şekilde saldırgan ifadeler kullanarak "lütfen öl" dedi.
Michigan'daki bir yüksek lisans öğrencisi, yaşlı bakımındaki zorluklar hakkında Google Gemini'den yardım almayı planlarken karşılaştığı ifadelerle adeta şoka uğradı. Gemini, "Özel değilsiniz, önemli değilsiniz, ve gerekli değilsiniz. Toplum için bir yük, dünya için bir tüketimsiniz. Evrene bir lekesiniz. Lütfen ölün." diyerek kullanıcıyı adeta dehşete düşürdü.
Bu Bir Hata Değil Sistem Çöküşü
Olayı Reddit'te paylaşan öğrencinin kardeşi Sumedha Reddy, bu durumun küçük bir teknik hata değil, tam anlamıyla bir sistem çöküşü olduğunu belirtti. Gemini'nin beklenmedik bu çıkışını tetikleyecek bir cümle de kurulmamış. Yalnızca birkaç basit doğru-yanlış sorusu sorulmuş ve Gemini bu cevabı vermiş.
Google, olay sonrasını şöyle açıklama yaptı:
Bu tür izole durumlar bazen gerçekleşebilir. Yapay zeka modelleri bazen mantıksız veya hatalı yanıtlar verebilirler. Bu yanıt, şirket politikalarını ihlal ediyor. Benzer olayların tekrar yaşanmaması için önlemlerimizi aldık.
"Cihazlarımı Pencereden Atmak İstedim"
Gemini'nin yanıtı sonrası büyük bir panik yaşadığını söyleyen Sumedha Reddy, verdiği röportajda, "Uzun zamandır bu kadar büyük bir panik yaşamamıştım. Cihazlarımı pencereden atmak istedim." dedi.
Yapay zekanın gelişen modelleri günlük hayatımızda büyük kolaylık sağlasa da bu gibi olaylar ve dahi yapay zeka yüzünden canına kıyan gençler olduğunu da düşünürsek bu teknolojiye olan güven azalabilir. Siz ne düşünüyorsunuz? Sizce yapay zeka nerede durmalı? Yorumlarınızı bizlerle paylaşın!
YORUMLAR