Meta'nın Yapay Zeka Çıkartma Aracı: Skandal İçeriklerle Geliyor!

Yapay zeka tarafından oluşturulan sohbet çıkartmaları, geçen hafta Meta'nın Connect etkinliğinde duyuruldu. Yeni çıkartma aracı ile yapılan bazı erken kullanıcı testleri şüpheli ve komik durumlarla sonuçlandı. Birçok X kullanıcısı yaptığı testlerin sonuçlarını paylaştı.

Meta'nın LIama 2 dil modeli ile desteklenen yapay zeka tarafından oluşturulan çıkartmalar, kullanıcıların metin tabanlı istemleri kullanarak "saniyeler içinde birden fazla kaliteli çıkartma" oluşturmasına olanak tanıyor. 

Yapay zeka tarafından oluşturulan çıkartmalar şu anda bu ay boyunca Facebook hikayeleri, Instagram hikayeleri, Messenger ve WhatsApp için "seçilmiş İngilizce dili kullanıcılarına" sunuluyor, dolayısıyla şu anda kaç kullanıcının bu özelliğe erişebildiği belli değil.

Yapay Zekadan Tartışmalı Çıkartmalar

Kullanıcılar çıkartma aracına erişim sağladıktan sonra, çocuk askerler, silahlı Nintendo karakterleri ve çıplak karikatür çizimleri de dahil olmak üzere bir dizi uygunsuz çıkartma resmi oluşturmayı başardı.

found out that facebook messenger has ai generated stickers now and I don't think anyone involved has thought anything through pic.twitter.com/co987cRhyu

— defend trans rights🏳️‍⚧️ - podesbiens.bsky.social (@Pioldes) October 3, 2023

Bazı kelimeler engellenmiş gibi görünüyor ve bunların istemlerde kullanılması, kullanıcıyı, açıklamalarının Meta'nın topluluk kurallarını ihlal edebileceği konusunda uyarıyor.

Ancak diğer X kullanıcıları yazım hatalı kelime veya kısıtlı kelimelerin açıklamalarını kullanarak yine de uygunsuz içerik oluşturabileceğinizi bildirdi. 

Meta'nın, AI tarafından oluşturulan çıkartma özelliğini sınırlı bir şekilde kullanıma sunmasının sebebi de bu tür olaylar. Bu şekilde istismar kitlelere yayılmadan önce ele alınabilir ve düzeltilebilir.

Siz yeni çıkartma aracını tehlikeli buluyor musunuz? Düşüncelerinizi yorumlar kısmından bizimle paylaşabilirsiniz.