Yapay Zekaların Artık "Vicdanı" Var!

Son ayların en tartışmalı konularından biri de yapay zeka sohbet botlarının kötü amaçlarla kullanılması. Birkaç yönergeyle birlikte ChatGPT'nin de dahil olduğu çoğu sohbet botu, güvenlik kurallarını hiçe sayarak oldukça şiddet içeren çıktılar verebiliyor. ChatGPT'nin yaratıcısı OpenAI ekibinden ayrılan bir grubun geliştirdiği yeni yapay zeka, bu sorunu çözebilir.

Anthropic şirketinin ürettiği Claude adlı sohbet botu, iddiaya göre İnsan Hakları Evrensel Beyannamesi'nin de dahil olduğu bir dizi kurala bağlılık duyuyor. Firma, sohbet botlarının "vicdana" sahip olduğunu söylüyor.

Ahlaklı Yapay Zeka

Wired'da yer alan habere göre Claude, geliştiricilerin anayasa olarak adlandırdığı ve İnsan Hakları Evrensel Beyannamesi gibi birçok önemli medeniyet kuralını içeren bir çerçeve etrafında hareket ediyor. Anthropic'in kurucusu Jared Kaplan, konuyla ilgili, "Temelde anayasaya daha uygun davranışları pekiştirdiğini ve sorunlu davranışları caydırdığını" söyledi.

Elon Musk'ın da aralarında olduğu teknolojinin önde gelen isimleri, yapay zekanın hızlı yükselişinin gelecekte insanlar adına sorun açabileceğini söylerken, Anthropic'in bu soruna çözümü ise ahlaklı yapay zeka olacak gibi duruyor.

Düşünce, vicdan, görüş, ifade, toplanma ve din özgürlüğünü, eşitliği ve kardeşliği destekleyen cevapları vermeye daha yatkın olduğu ifade edilen Claude, katı bir kurallar listesi çerçevesinde eğitiliyor. Washington Üniversitesi araştırmacısı Yejin Choi, "Görünüşe göre Anthropic için iyi bir deneysel sonuca yol açan harika bir fikir." dedi. Choi'ye göre yapay zekanın geleceği içni bu tür anayasalar ve normlar inşa etmemiz gerekiyor.

Yapay Zeka

Yapay Zekanın Yaptığı Korkutucu Reklamlar Viral Oldu

Yapay zeka bu sefer de reklam yaptı. Reklamlardaki hatalar ve tercihler, oldukça korkutucu. Detaylar haberimizde!

Yapay Zeka

Yapay Zeka Gelişimine Tepkiler Büyüyor: Sağlık Uzmanları Uyarılarda Bulundu!

Yapay zekâların gelişimine dair son dönemde artan eleştirilere bir yenisi daha eklendi. Sağlık uzmanları endişelerini üç farklı kategoride sınıflandırıyor.