Aralarında Elon Musk, Steve Wozniak ve Center for Humane Technology'den Tristan Harris'in de bulunduğu 1.100'den fazla imza veren, "tüm yapay zekâ laboratuvarlarını GPT-4'ten daha güçlü yapay zekâ sistemlerinin eğitimini en az 6 ay süreyle derhâl durdurmaya" çağıran bir açık mektup imzaladı. Mektupta şöyle deniyor:
"Çağdaş YZ sistemleri artık genel görevlerde insanlarla rekabet edebilir hâle geliyor ve kendimize şu soruyu sormalıyız:
Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı haberlerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dâhil olmak üzere tüm işleri otomatikleştirmeli miyiz? Eninde sonunda sayıca üstün, akıllı, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler mi geliştirmeliyiz? Uygarlığımızın kontrolünü kaybetme riskini göze almalı mıyız? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Güçlü yapay zekâ sistemleri ancak etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir."
Yapay Zeka Çalışmaları Neden Durdurulmak İsteniyor?
Mektup, "gerçekleşmeyen" bir "planlama ve yönetim düzeyi" olduğunu ve bunun yerine son aylarda, isimsiz "yapay zekâ laboratuvarlarının" yaratıcılarının bile anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini" savunmaya devam ediyor.
Aralarından bazıları yapay zekâ uzmanı olan mektubu imzalayanlar, talep ettikleri duraklamanın "kamuya açık ve doğrulanabilir olması ve tüm kilit aktörleri içermesi" gerektiğini söylüyorlar. Mektupta söz konusu duraklamanın "hızlı bir şekilde hayata geçirilememesi hâlinde, hükûmetlerin devreye girmesi ve bir moratoryum başlatması gerektiği" belirtiliyor.
Meta ve Google'dan bazı mühendisler, Stability AI kurucusu ve CEO'su Emad Mostaque ve teknoloji dünyasından olmayan kişiler de dâhil olmak üzere, mektubu imzalayanlar kadar imzalamayanlar da ilginç. Örneğin büyük dil modeli GPT-4'ün arkasındaki OpenAI'den hiç kimse bu mektubu imzalamadı. "Daha güvenli" bir yapay zekâ sohbet robotu oluşturmak için OpenAI'den ayrılan Anthropic'ten de kimse imzalamadı.
YORUMLAR