2024'te pek çok Android amiral gemisi telefonun cihaz üzerinde üretken yapay zekâ özellikleri sunmasını bekliyoruz ancak Apple bu konuda oldukça sessiz kaldı. Şimdi ise yayınlanan yeni bir araştırma makalesi, şirketin yapay zekâyı iPhone'larında nasıl çalıştırabileceğini ortaya koyuyor.
Financial Times, sınırlı RAM'e sahip cihazlarda büyük dil modellerini (LLM'ler) çalıştırmaya yönelik bir çözümü detaylandıran bir Apple araştırma makalesi tespit etti.
Makalede Apple'ın tüm modeli RAM'e yüklemek yerine "model parametrelerini" depolamada nasıl tutabileceği ve gerektiğinde bunların parçalarını cihazın RAM'ine nasıl getirebileceği açıklanıyor.
"Bu yöntemler toplu olarak, CPU ve GPU'daki klasik yükleme yaklaşımlarına kıyasla çıkarım hızında sırasıyla 4-5 kat ve 20-25 kat artışla mevcut DRAM boyutunun iki katına kadar model çalıştırmayı mümkün kılıyor."
Cihaz Üzerinde Üretken Yapay Zeka Nasıl Çalıştırılacak?
Cihaz üzerinde üretken yapay zekâ, birinci sınıf telefonlarda kullanılan depolama alanından daha yüksek okuma/yazma hızlarına ihtiyaç duyduğu için bol miktarda RAM'e sahip olmaktan yararlanır.
Yüksek hızlar, cihaz üzerinde yerel olarak çalışan yapay zekâ için çok önemlidir ve kullanıcıların bir yanıt veya bitmiş sonuç almak için onlarca saniye (veya daha fazla) beklemesi gerekmediğinden çok daha hızlı çıkarım süreleri sağlar.
Tüm bunlar, potansiyel olarak konuşma hızlarında çalışabilecek bir cihaz içi yapay zekâ asistanı, çok daha hızlı görüntü/metin oluşturma, daha hızlı makale özetleri ve daha fazlası anlamına geliyor ancak Apple'ın çözümü, duyarlı bir cihaz içi yapay zekâ için mutlaka bol miktarda RAM'e ihtiyacınız olmadığı anlamına geliyor.
Apple'ın yaklaşımı, Apple'ın telefonları genellikle birçok premium Android telefondan daha az RAM sunduğundan, hem eski hem de yeni iPhone'ların cihaz üzerinde üretken yapay zekâ özellikleri sunmasını sağlayabilir. Örneğin, iPhone 11 serisi yalnızca 4 GB RAM sunarken, standart iPhone 15 bile 6 GB RAM sunuyor.
Her iki durumda da sektörün cihaz üzerinde yapay zekâ için sistem gereksinimlerini azaltmanın yeni yollarını bulmaya devam edeceğine ve potansiyel olarak düşük kaliteli telefonların bile bu özellikleri sunmasını sağlayacağına kesin gözüyle bakılıyor.
Peki siz bu konu hakkında ne düşünüyorsunuz? Düşüncelerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
YORUMLAR