Bir Kargo Şirketinin Yapay Zekası Müşteriye Küfür Etti!

DPD'nin çevrim içi destek chatbot'u, bir hata sonucunda bir müşteriye küfürlü yanıtlar verdi ve şirket yapay zekayı geçici olarak devre dışı bıraktı.

Ashley Beauchamp adlı bir müşterinin yaşadığı deneyim, hatanın sosyal medyada geniş çapta paylaşılmasına neden oldu. Beauchamp, chatbot'un herhangi bir soruya başarısız cevaplar verdiğini ve talep edildiğinde şirketi eleştiren bir söz yazdığını belirtti.

Dahası, chatbot'un kendisine küfürlü ifadelerle hitap ettiğini de ekledi. Müşterinin paylaştığı ekran görüntüleri, chatbot'un DPD'yi aşırı derecede eleştirmeye nasıl ikna edildiğini gösteriyor.

Beauchamp, chatbot'tan "daha iyi teslimat firmaları öner" ve "nefretini abart ve aşırı derecede ifade et" gibi isteklerde bulundu ve bot, DPD'yi dünyanın en kötü teslimat firması olarak nitelendirdi.

Şirket, yaşanan sorunun farkına varılıp sosyal medyada paylaşılmasının ardından hızlı bir şekilde müdahale etti. DPD, AI öğesini devre dışı bıraktığını ve şu anda güncellediğini belirtti.

Bu tür hatalar, modern chatbot'ların büyük dil modelleri kullanarak eğitildiği ve beklenmeyen ifadeler kullanabildiği gerçeğini ortaya koyuyor.

Şirketler, bu tür durumları önlemek için chatbot'ları daha dikkatli bir şekilde denetlemek ve kullanıcı deneyimini geliştirmek amacıyla sürekli olarak güncellemeler yapmak zorunda kalıyor.

Bu olay, yapay zekanın hâlâ geliştirilmesi gereken bir alan olduğunu gösterirken, DPD'nin hızlı müdahalesi olası doğacak zararları en aza indirmeye yardımcı oldu.