Son yıllarda interneti derin sahte (deepfake) videolar basmış durumda. Sumsub’un verilerine göre yapay zeka ile üretilen sahte içerikler 2023’ten 2024’e tam 4 kat artış gösterdi.
Öyle ki, 2024’te tüm dolandırıcılık faaliyetlerinin %7’si derin sahte videolardan oluşuyor. Bu videolar sadece hesap ele geçirme ya da kimlik hırsızlığı gibi sorunlara neden olmuyor, aynı zamanda sosyal manipülasyon için de kullanılıyor.
Meta, bu sorunlara karşı bir çözüm sunmak amacıyla yeni bir aracı duyurdu: Video Seal. Bu teknoloji, yapay zeka ile üretilen videolara gözle fark edilmesi zor, gizli bir damga ekliyor. Araç açık kaynak olarak sunuluyor ve mevcut yazılımlara entegre edilebiliyor.
Video Seal Nedir, Ne İşe Yarar?
Meta’nın yapay zeka araştırma ekibinden Pierre Fernandez, Video Seal’in özellikle yapay zeka ile üretilmiş videoların tespitinde etkili bir çözüm sunduğunu belirtiyor. Bu sistem, videoların orijinalliğini korumak ve sahtelerini ayırt edebilmek için geliştirilmiş.
Video Seal, bir video kırpılmış, sıkıştırılmış ve bulanıklaştırılmış videoları tespit etmekte oldukça başarılı. Ek olarak videolara damga ekliyor ve daha sonra bu mesaj sonradan çıkarılacak video kaynağını tespit ediyor. Videolar çok büyük olsa bile etkili şekilde çalışmayı sürdürüyor.
Her şeyde olduğu gibi tabii ki Video Seal’in de sınırları var. Yoğun sıkıştırma veya çok büyük düzenlemeler, damgaları etkisiz hale getirebiliyor. Fernandez, bu gibi durumlarda damganın tamamen kaybolabileceğini kabul ediyor.
Endüstri Kabul Eder mi?
Bu teknolojinin benimsenmesi için geliştiricilerin ve endüstri liderlerinin bu araca yönelmesi gerekiyor. Meta, bu durumu teşvik etmek için önemli adımlar atıyor.
Şirket, çeşitli damgalama yöntemlerinin performansını karşılaştırmak üzere bir leaderboard (sıralama tablosu) oluşturuyor ve bu konuda düzenlenecek bir konferansa ev sahipliği yapıyor.
YORUMLAR