Qualcomm Snapdragon 8 Gen 2 ile yapay zekâyı uçurdu

Qualcomm, yapay zekâ (AI) tabanlı görüntü oluşturucu Stable Diffusion’ın yeteneklerini bir videoyla gösterdi. Şirket, bu motorun bir akıllı telefonda şimdiye kadarki en hızlı görüntü oluşturma işlemlerini gerçekleştiren sistem olduğunu iddia ediyor.

Bir demo videosunda Qualcomm, Stable Diffusion’ın 1.5 sürümününün 15 saniyenin altında 512 x 512 piksellik bir görüntüyü oluşturmasını gösteriyor. Qualcomm, hangi telefonun kullanıldığını söylemese de, geçen kasım ayında duyurulan ve yapay zeka merkezli bir Hexagon işlemciye sahip amiral gemisi Snapdragon 8 Gen 2 yonga seti tarafından desteklendiğini söylüyor. Şirketin mühendisleri, Stable Diffusion’ın en iyi şekilde çalışmasını sağlamak için yazılım tarafında da her türlü özel optimizasyonu yaptı.

Yapay zekâ tabanlı görüntü oluşturmada temel unsur olan Stable Diffusion gibi bir programı çalıştırmak çok fazla bilgi işlem gücü gerektirir ve bu tür hizmetleri mobil cihazlarda sunan çoğu uygulama, akıllı telefonunuzu veya tabletinizi kullanmak yerine tüm işlemlerini bulutta yapar. Düzgün bir dizüstü bilgisayarda dahi bu şekilde bir görüntü oluşturmak dakikalar alacaktır. Bu nedenle bir telefondan saniyeler içinde 512 x 512 görüntü elde etmek etkileyicidir.

Qualcomm bunun bir hız rekoru olduğunu iddia ediyor. Aynı zamanda şirket, Stable Diffusion’ın Android’de ilk kez yerel olarak çalıştığını söylüyor, ancak bu doğru görünmüyor. The Verge, yaptığı araştırmalar sonucunda, geliştirici Ivon Huang’ın Qualcomm Snapdragon 865 ve 8 GB RAM ile çalışan bir Sony Xperia 5 II üzerinde Stable Diffusion’ı nasıl çalıştırdıklarını gösteren bir blog yazısı saptadı. Huang’ın bir tweet’te belirttiği gibi, bu kurulumla 512 x 512’lik bir görüntü oluşturmak bir saat sürdü. Bu nedenle Qualcomm teknik açıdan bir “ilk” elde etmese bile, hız açısından kesinlikle fark attığı görülüyor.

Bir başka faydalı karşılaştırma da iOS ile yapılabilir. Geçtiğimiz aralık ayında Apple, makine öğrenimi çerçevesi Core ML’de Stable Diffusion’ın yerel olarak çalışmasını sağlamak için gereken optimizasyonları yayınlamıştı. The Verge, karşılaştırma amacıyla, Core ML hızlandırmalı Draw Things uygulaması aracılığıyla bir iPhone 13’te çalışan Stable Diffusion 1.5 sürümünü kullandı. Bu kurulumla, 512 x 512’lik bir görüntü oluşturmak yaklaşık bir dakika sürdü. Bu nedenle, bariz hususlar geçerli olsa da, Qualcomm yine hız tarafında kazanıyor. Qualcomm, daha yeni donanımlar ve herkese açık olmayan özel bir optimizasyon paketi kullanırken iOS testi, üçüncü taraf bir uygulama kullanılarak 2021 model bir telefonda yapıldı.

Tüm bu nitelikler bir yana, Qualcomm’un gösterdiği yalnızca bir demo olsa da etkileyici görünüyor. Mobil cihazlarda yerel olarak çalışan büyük yapay zekâ modellerine sahip olmak, bulut bilişime bağlı kalmaya kıyasla her türlü avantajı sunuyor. Öncelikle bir mobil bağlantıya ihtiyacınız yoktur. Geliştiriciler, sunucu faturaları geldiğinde kullanıcılardan ücret talep etmezler ve yerel olarak çalıştığınız için başka bir bilgisayara veri göndermezsiniz.