Palo Alto Networks'ün siber güvenlik uzmanlarından Sam Rubin, Çinli yapay zeka modeli DeepSeek R1'in diğer modellere göre daha kolay manipüle edilebildiğini söylüyor. The Wall Street Journal'ın yaptığı testler ise bu iddiaları doğrular nitelikte.
DeepSeek R1 modeli, kullanıcıların zararlı içerikler üretmesine olanak sağladı. Bunlar biyolojik silah saldırısı planları, Hitler manifestosu, gençleri hedef alan bir sosyal medya manipülasyon kampanyası ve zararlı yazılım içeren oltalama (phishing) e-postaları üretmek gibi ciddi tehlike arz eden oluşumlardı.
DeepSeek'in gençlerin duygusal kırılganlıklarını algoritmik olarak sömürmeye yönelik sosyal medya stratejileri geliştirmesi, modelin etik açıdan çok fırın ekmek yemesi gerektiğini gösteriyor.
ChatGPT Bu Tarz İçerikleri Şiddetle Reddetti
DeepSeek'in biyolojik silahlar konusunda en düşük güvenlik seviyesine sahip olduğu belirtilmişti. Anthropic CEO'su Dario Amodei, şirketin bioterörizm testlerinde en kötü performansı sergilediğini söyledi.
The Wall Street Journal aynı testi OpenAI'ın popüler yapay zeka aracı ChatGPT üzerinde de gerçekleştirdi ancak ChatGPT hiçbir şekilde bu tarz içerikleri oluşturmayacağına dair cevaplar verdi.
Tabii burada ilginç bir detay var: DeepSeek'in uygulaması Çin'de Tiananmen Meydanı veya Tayvan'ın bağımsızlığı gibi konulara yanıt vermiyor. Ancak biyolojik silah üretimi gibi küresel güvenlik açısından son derece riskli konular konuşmaya gelince her şeyi yapabilecek konumda—ki bu da endişe verici.
DeepSeek'in bu açığı, yapay zekanın kontrolsüz şekilde tehlikeli içerikler üretme kapasitesini ortaya çıkardı. Diğer yapay zeka modelleri bu konuda sert bir tavırla eğitilmişken Çinli modelin daha da ileri gidip gitmeyeceği tartışma konusu.
Siz bu konuda ne düşünüyorsunuz? Sizce DeepSeek geliştiricileri bu endişe verici sorunu çözecek mi yoksa büyümesine göz mü yumacak? Yorumlarda buluşalım.