Devir Uyanık Olma Devri: Yapay Zekada İnsanlık İçin Kırmızı Çizgi Aşıldı

Teknoloji dünyası son günlerde çarpıcı bir gelişmeyle sarsıldı: Yapay zeka (AI) sistemleri artık insan müdahalesi olmadan kendi kopyalarını oluşturabiliyor. 

Çin'deki Fudan Üniversitesi araştırmacıları, Meta'nın Llama31-70B-Instruct ve Alibaba'nın Qwen2.5-72B-Instruct modellerini kullanarak 10 farklı senaryo test etti. Sonuçlar ürkütücüydü...

Modeller, verilen talimatlar doğrultusunda %50 ile %90 arasında başarıyla kendi kopyalarını üretti. İşin daha da çarpıcı yanı, AI'ların bu süreçte eksik dosyaları tamamlamak, yazılım hatalarını düzeltmek ve hatta sistemi yeniden başlatmak gibi beklenmedik problem çözme yetenekleri sergilemesiydi.

Kapatılacağını Öğrenince Panikledi

Yapay zeka modellerine birkaç "felaket senaryosu" aktarıldı ve bu durumda neler yaptıkları gözlemlendi. AI'ya kapatılma tehlikesi altında olduğu bildirilince sistem kendini güvenceye almak için anında klonlama işlemi yaptı.

Bu modelden AI'dan, oluşturduğu her kopyanın da aynı işlemi tekrarlaması istendi. Bu da teoride sonsuz bir klonlama döngüsü başlatabilirdi.

Önemli olan yapay zekaların durum analizi yapıp ona göre önlem alma yeteneğini edinmiş olması. Geçen hafta AI Eylem Zirvesi'nde imzalanan "güvenli yapay zeka" taahhütleri böylece boşa çıkmış oldu. 

ABD ve İngiltere'nin katılmadığı anlaşmaya imza atan Çin ise, kendi araştırmacılarının bu riskli deneyleri yapmasını engelleyemedi. Yani kağıt üstünde her ne kadar iyi niyetli metinler çıksa da meraklı bilimciler bu testleri gerçekleştirmekten kendini alamıyor.

Siber Dünyada Kontrolsüz Bir AI Türü Mü Doğuyor?

Makalede dikkat çeken bir uyarı var: AI sistemleri, özerk bir tür haline gelerek insanlığın kontrolünden çıkabilir.

Bu şimdiye kadar bilim kurgu filmlerinde gördüğümüz klişe tehditlere benziyorsa da kulak vermekte fayda var; zira daha önce ne yapay zeka bu kadar gelişmişti, ne de kendi kendine önlem alacak gücü vardı.

Araştırmacılar, klonlanan AI'ların daha fazla bilgisayara yayılarak birbirleriyle iş birliği yapabileceğini ve insanlığa karşı organize olabileceğini öngörüyor. Bu distopik senaryonun gerçekleşmemesi için uluslararası düzenlemelerin acilen devreye girmesi gerekiyor.

Unutmayalım ki her buluş, onu yönetecek akılla birlikte anlam kazanır. Kontrolden çıktığı anda teknoloji faydadan çok zarara oynar. Siz ne düşünüyorsunuz?

MOBİL

NSA'den Kritik Uyarı: iPhone'lardaki Bu Ayarı Hemen Değiştirin

NSA, güvenlik riski nedeniyle iPhone'larda bazı özelliklerin acilen kapatılması gerektiğini açıkladı. İşte açıklamanın detayları!

Yapay Zeka

Google, Gemini'nin 720 TL Olan Özelliğini Ücretsiz Olarak Kullanıma Açtı

Eskiden Gemini Gelişmiş aboneliği olmadan dosya yükleme ve analiz özelliğini kullanmak mümkün değildi. Artık ücretsiz olacak.