Yapay zekanın tüm hızıyla ilerleme kaydetmemesi hayatın her alanına fayda sağlamakla birlikte bazen riskli ve istenmeyen olaylara da mahal verebiliyor. Özellikle teknoloji ve yapay zeka devlerinin belirli araçlarla çocukların istismar edilme durumu oldukça gündemde olan bir konu.
OpenAI ve Microsoft başta olmak üzere Google ve Meta da dahil birçok yapay zeka şirketi, bu konuda harekete geçmeye başladı. Şirketler, yapay zeka araçlarının çocuklara yönelik cinsel istismar materyalleri (CSAM) oluşturmak için kullanılmasını önleme sözü verdi.
Kar amacı gütmeyen bir çocuk güvenliği grubu olan Thorn ve All Tech Is Human tarafından yönetilen bu girişim, özellikle ebeveynlerin yapay zeka konusunda çocukları ile ilgili daha rahat etmesini sağlayacak. Çocuklar için var olan tehlikeler de ortadan kalkmış olacak.
Yapay Zeka Devleri Güçlerini Birleştirecek
Çocuk güvenliği grubu Thorn, böyle bir adımın atılmasının yapay zeka şirketlerinin çocukları koruması sayesinde büyük bir ivme yakalayacaklarını ve sektörde emsal niyeliğinde bir karar verilmiş olacağını belirtti.
Çocukların yer aldığı cinsel içerikli çalışmaların önüne geçilmesi ve sosyal medyada, arama motorlarında bu içeriklerin bulunabilmesi; şirketlerin bir araya gelip böyle bir çalışmaya imza atmalarını hızlandırdı.
Thorn'un açıkladığı verilere göre sadece geçen sene boyunca ABD'de 104 milyondan fazla şüpheli, çocuk cinsel istismar materyali dosyasına dahil oldu.
Thorn ve All Tech Is Human, "Üretken Yapay Zeka İçin Güvenlik: Çocukların Cinsel İstismarını Önleme" başlıklı bir makale yayınladı ve geliştiricilerin yapay zekanın çocuklara verdiği zararı önlemek için adım atılması gerektiğini belirtti.
Thorn'un veri biliminden sorumlu başkan yardımcısı Rebecca Portnoff, bazı büyük şirketlerin bu durumu önlemek için yetişkinlere yönelik içerikleri içeren veri setlerinden çocukların yer aldığı medyaları ayırmayı kabul ettiğini söyledi.
YORUMLAR