OpenAI, ChatGPT'nin Tüm Eksiklerini Tamamlayacak CriticGPT'yi Duyurdu

OpenAI, yazılım geliştiricileri için yeni bir yardımcı araç olan CriticGPT'yi duyurdu. Bu yapay zeka modeli, ChatGPT tarafından üretilen kodlardaki hataları tespit etmek ve genel kod kalitesini iyileştirmek için tasarlandı. OpenAI'nin bu yeni teknolojisi, geleneksel kod inceleme yöntemlerine kıyasla %60 oranında daha başarılı sonuçlar verdi.

OpenAI'nin CriticGPT'si Kod Hatalarını %60 İyileştiriyor

CriticGPT, GPT-4 teknolojisi üzerine kurulu bir yapay zeka modelidir ve ChatGPT tarafından üretilen kodlardaki hataları tespit etmek için optimize edilmiştir. Yapılan denemelerde, CriticGPT'nin kullanılması kod inceleme sonuçlarını önemli ölçüde artırdı.

We’ve trained a model, CriticGPT, to catch bugs in GPT-4’s code. We’re starting to integrate such models into our RLHF alignment pipeline to help humans supervise AI on difficult tasks: https://t.co/5oQYfrpVBu

— OpenAI (@OpenAI) June 27, 2024

Bu yeni araç, OpenAI'nin İnsan Geri Bildiriminden Güçlendirme Öğrenimi (RLHF) etiketleme sürecine entegre edilecek ve karmaşık yapay zeka çıktılarını değerlendirmek için yapay zeka eğiticilerine daha iyi araçlar sağlamayı hedefliyor.

CriticGPT'nin temel işlevi, ChatGPT'nin yanıtlarındaki hataları vurgulayan eleştiriler yazmaktır. Bu eleştiriler her zaman mükemmel olmasa da, eğiticilerin hataları tespit etmesine önemli ölçüde yardımcı olmaktadır.

Deneylerde, CriticGPT kullanan ekipler daha kapsamlı eleştiriler üretmiş ve hataların sayısını azaltmıştır. Bir ikinci eğitmen, insan+yapay zeka (CriticGPT) ekibinin eleştirilerini, yardımsız bir inceleyicinin eleştirilerinden %60'dan fazla tercih etmiştir.

CriticGPT'nin başarısıyla birlikte, bu yapay zeka aracının bazı sınırlamaları da göz önüne alınmalıdır. Özellikle, kısa ChatGPT yanıtlarına odaklandığı için, daha uzun ve karmaşık görevleri yönetmek için geliştirilmesi gerekmektedir.

Ayrıca, yapay zeka modellerinin hala yanıltıcı olabilmesi ve eğiticilerin zaman zaman hatalı etiketlemeler yapabilmesi gibi sorunlar da bulunmaktadır.

CriticGPT'nin ileriye dönük olarak, çoklu noktalı hataları ele alacak şekilde genişletilmesi gerekmektedir, böylece ChatGPT tarafından üretilen yanıtların daha derinlemesine analiz edilmesi mümkün olabilir.