Yapay zeka alanında uzman ekiplerden biri olarak görülen OpenAI, yapay zekanın yanıltıcı olarak kullanılabileceği durumlara karşı harekete geçiyor. Austin Üniversitesi'ndeki bir konferansa katılan OpenAI konuk araştırmacısı Scott Aaronson, ekibin tespit edilemeyen bir filigran üzerinde çalıştığını açıkladı.
OpenAI'ın aldığı bu kararın arkasında yeni geliştirilen sohbet botu ChatGPT'nin bazı yazılarının insanların üretimleriyle ayırt edilememesi yatıyor olabilir.
OpenAI Yapay Zeka ve İnsan Üretimi Üretimi Arasına Fark Koymak İstiyor
ChatGPT'nin halka açılmasıyla birlikte yapay zekanın metin oluşturmadaki gücü de gözler önüne serildi. En karmaşık senaryolarda dahi insanlar kadar iyi yazabilen ChatGPT'nin akademik seviyede intihal için kullanılabileceğinden şüphelenildi.
OpenAI ekibi; görsel tasarım, içerik oluşturma, okul ödevleri ve makale yazı gibi konularda ChatGPT ve DALL-E 2 yapay zekalarının yaratım gücünün suistimal edilmesini istemiyor.
Bu ihtimale karşılık ekip yalnızca gizli algoritmalar tarafından tespit edilebilen özel bir filigranı yapay zeka üretimlerine eklemek istiyor. Henüz yapay zeka ile insan yaratımı arasındaki farkları ayırt edebilen herhangi bir program bulunmuyor. Yeni geliştirilecek filigran sistemiyle birlikte yapay zeka üretimi olduğu şüphelenilen görsel veya metinler kolayca tespit edilebilecek.
Filigran Gelişmesini ChatGPT'ye Sorduk!
Böyle bir filigrana gerek olup olmadığı hakkında düşünebilirsiniz. Haberimizi bitirmeden önce isterseniz konuyla alakalı ChatGPT'nin görüşlerini alalım ve yapay zekanın metin üretiminde gücünü görelim.
Haberimizin bu noktasından sonra okuyacağınız tüm metin, ChatGPT yapay zekası tarafından üretilmiştir.
Soru: OpenAI ekibi yapay zeka üretimlerine filigran eklemeyi düşünüyor. Bu makaleyi devam ettirir misin?
ChatGPT'nin Cevabı: "AI kreasyonlarına bir filigran eklemenin özel amacının veya etkilerinin ne olacağı açık değildir. Bununla birlikte, böyle bir değişikliğin içerik oluşturucu endüstrisi üzerinde etkileri olabilir.
Örneğin, bir filigran eklenmesi, yapay zeka tarafından üretilen içeriği tanımlamak için potansiyel olarak kullanılabilir ve içerik oluşturucuların materyallerinin kaynağını daha iyi ilişkilendirmesine ve kredilendirmesine olanak tanır.
Ek olarak, bir filigran kullanımı, yapay zeka tarafından oluşturulan içeriğin şeffaflığını ve hesap verebilirliğini geliştirmeye potansiyel olarak yardımcı olabilir ve kullanıcılara çevrimiçi olarak karşılaştıkları materyalin kaynağı ve menşei hakkında daha fazla bilgi sağlar."
YORUMLAR