Pentagon, internet ortamında kullanılacak deepfake kullanıcı profilleri oluşturmak için kolları sıvadı. Hedef? Gerçek insanlardan ayırt edilemeyecek kadar inandırıcı sahte kimlikler yaratmak. ABD Özel Operasyonlar Komutanlığı (SOCOM) tarafından hazırlanan 76 sayfalık bir doküman, bu dikkat enteresan planın detaylarını ortaya koyuyor.
Deepfake Teknolojisiyle "Hükümet Kimliği Kalitesi"
Amaç, her yönüyle insana benzeyen, "hükümet kimliği kalitesinde" fotoğraflara sahip yapay kişiler yaratmak. Dahası, bu profiller yalnızca fotoğraf değil, videolar, ses kayıtları ve sahte arka planlarla desteklenecek. Yani tamamen gerçekçi selfie videoları oluşturulabilecek.
Pentagon'un bu projede StyleGAN gibi ileri teknoloji araçlardan yararlanmayı planladığı belirtiliyor. StyleGAN, sahte insan yüzleri üretmede öncü bir teknoloji olarak biliniyor ve 2019 yılında "This Person Does Not Exist" (Böyle Biri Yok) adlı popüler bir web sitesinin temelini oluşturmuştu. SOCOM, bu teknolojiyi geliştirerek "algoritmaların bile tespit edemeyeceği" düzeye ulaştırmayı hedefliyor.
Pentagon İstihbarat İstiyor
Pentagon'a göre bu sahte kullanıcılar, istihbarat toplamak, dezenformasyon yaymak ve yabancı devletlerin propagandalarına karşı koymak için kullanılacak. Daha önce ABD'nin sahte sosyal medya hesaplarıyla yabancı ülkelerde dezenformasyon yaydığı ve bu hesapların 2022 yılında Meta tarafından kapatıldığı biliniyor.
Öte yandan böyle bir planın etik anlamdaki eksikliği tartışma konusu oluyor. Uzmanlar, Pentagon’un bu adımının, dünya çapında deepfake teknolojisinin yaygınlaşmasını hızlandıracağı ve doğruluk ile yalan arasındaki çizgiyi bulanıklaştıracağı görüşünde. AI Now Institute’un baş yapay zeka uzmanı Heidy Khlaaf, "Bu teknoloji tamamen aldatmaya yönelik. Kullanımı meşru değil ve ABD hükümetinin bunu benimsemesi, diğer ülkelerin de benzer şekilde hareket etmesine cesaret verecek," diyor.
YORUMLAR