Yapay Zeka Neden GPU Gerektirir?

Kisa cevap: yapay zeka cogunlukla sayilari carpar

Reklam sozcuklerini bir kenara birakirsak, bir sinir agi devasa bir carpma ve toplama yiginindan ibarettir. Her katman bir sayi listesini alir, ogrenilmis agirliklardan olusan bir izgarayla carpar, sonuclari toplar ve bir sonraki katmana aktarir. Bu izgara-carpi-liste islemine matris carpimi denir ve tek bir modern model bunu tek bir istek icin milyarlarca kez yapar.

Iste kilit ozellik: bu carpmalarin cogu birbirine bagimli degildir. Bir cikti sayisini hesaplamak icin yanindakinin bitmesini beklemeniz gerekmez. Hepsi ayni anda gerceklesebilir. Iste bu tek gercek, yapay zekanin belirli bir cip turune yonelmesinin nedenidir.

Bir milyon bagimsiz carpmayi tek tek yerine ayni anda yapabiliyorsaniz, ayni isi cok daha hizli bitirirsiniz. CPU mu GPU mu sorusunun tamami, hangi cipin ayni anda cok sayida kucuk is yapmak icin tasarlandigina gelip dayanir.

CPU mu GPU mu: birkac guclu cekirdek mi, binlerce kucuk mu

CPU (merkezi islem birimi) bilgisayarinizdaki her ise kosan birimdir. Az sayida ama cok guclu cekirdege, bol onbellege ve farkli gorevler arasinda gecis yapmayi saglayan akilli mantiga sahiptir. NVIDIA bunu soyle tanimlar: CPU bol onbellekli birkac cekirdege sahiptir ve dusuk gecikmeli, sirali islerde, ayni anda az sayida islemde ustundur. Bu, bir isletim sistemini, bir hesap tablosunu ya da kararlarla dolu dallanan kodu calistirmak icin idealdir.

GPU (grafik islem birimi) ise tam tersi bir tercih yapti. Birkac guclu cekirdek yerine, ayni islemi cok sayida veri parcasi uzerinde es zamanli calistirmak icin tasarlanmis binlerce daha kucuk ve daha basit cekirdek barindirir. Hizli tekil yanit yerine yuksek is hacmi icin kurulmustur.

Buna grafik cipi denmesinin bir nedeni var. GPU lar baslangicta ekrandaki milyonlarca pikseli ayni anda renklendirmek icin yapilmisti ve bu da kendi basina son derece paralel, tekrarli bir matematik problemidir. Sonradan anlasildi ki uc boyutlu grafigin arkasindaki matematik ile sinir aglarinin arkasindaki matematik yakin akraba, dolayisiyla ayni donanim her ikisine de uydu.

GPU lar ayrica transistorlerinin daha buyuk bolumunu onbellek yerine hesaplamaya ayirir ve cok sayida is parcaciginu ayni anda canli tutarak bellek gecikmelerini iyi tolere eder. Cogunlukla buyuk sayi bloklarinin ayni islemden gecirilmesini gerektiren sinir agi matematigi icin bu tasarim neredeyse kusursuz bir eslesmedir.

GPU lar matematigi nasil calistirir

Iki buyuk sayi izgarasini carptiginizi dusunun. Sonuctaki her hucre bagimsiz bir hesaplamadir. GPU her hucreyi kendi cekirdegine atayarak hepsini paralel hesaplayabilir; boylece bir CPU da tek tek surunecek bir is, surenin kucuk bir kesrinde biter.

Modern GPU lar ozellesmis birimlerle bir adim daha ileri gider. Ornegin NVIDIA Tensor Cekirdekleri, sinir aglarinin tam merkezinde yer alan karma hassasiyetli matris carp-ve-topla islemlerini hizlandirmak icin ozel olarak yapilmistir. Bir miktar sayisal hassasiyeti cok fazla hiz icin feda ederler; bu islerin nedeni sinir aglarinin kucuk yuvarlamalara sasirtici olcude dayanikli olmasidir.

Bunlari surecek yazilim olmadan hicbiri ise yaramazdi. NVIDIA, 2007 de gelistiricilerin GPU lari yalnizca grafik icin degil genel hesaplama icin de kullanmasini saglayan CUDA programlama sistemini tanitti. Bu, donanimi bilim ve makine ogrenmesi icin kullanilabilir kildi ve GPU larin yapay zekanin varsayilan araci haline gelmesinin onemli bir nedenidir.

GPU ile yapay zekanin birbirine kenetlendigi an

Donum noktasi iyi belgelenmistir. 2012 de AlexNet adli bir sinir agi, ImageNet goruntu tanima yarismasini buyuk farkla kazandi ve modern derin ogrenme caginin baslamasina yardimci oldu. Kaynak kodunu daha sonra yayinlayan Computer History Museum a gore AlexNet, iki adet NVIDIA GTX 580 oyun GPU su uzerinde egitildi.

Yaraticilari Alex Krizhevsky ve Ilya Sutskever, bir evrisimli agin agir kisimlarinin, yani evrisimlerin ve matris carpimlarinin, tam olarak bir GPU nun paralel calistirabilecegi turden islemler oldugunu fark etti. Video oyunlari icin yazilmis tuketici sinifi oyun donanimi, donum noktasi niteliginde bir yapay zeka modelini egitmis oldu.

Bundan sonra GPU lar makine ogrenmesinin standart donanimi haline geldi. Ders akilda kaldi: is yukunuz bir dag dolusu bagimsiz aritmetikse, paralel donanim kazanir.

Egitim ve cikarim, bir de olcek ile maliyet boyutu

Yapay zeka isi iki asamaya ayrilir. Egitim modeli ogretmektir: cok buyuk veri kumeleri uzerinde tekrar tekrar gezinir ve agirliklari ayarlar; bu son derece hesaplama yogundur. Cikarim ise egitilmis modeli tek bir istegi yanitlamak icin kullanmaktir; yalnizca ag boyunca tek bir ileri gecis gerektirir ve istek basina cok daha hafiftir.

GPU lar her ikisinde de parlar ama farkli nedenlerle. Buyuk modelleri GPU da egitmek, CPU ya gore katlarca daha hizli olabilir ve haftalari gunlere indirir. Cikarimda ise GPU, tum o cekirdekleri mesgul tutmak icin cok sayida istegi toplu islediginizde buyuk fark yaratir; kucuk bir model ya da ara sira gelen tekil istekler icin bir CPU gayet makul olabilir.

Maliyet de tam burada devreye girer. Ust duzey yapay zeka GPU lari pahalidir, cok guc ceker ve cogu zaman veri merkezlerinde saatlik kiralanir. Bu ekonomi, ekiplerin verimliligi neden bu kadar onemsedigini aciklar: daha kucuk modeller, daha dusuk hassasiyetli matematik ve toplu isleme, kismen her pahali GPU saatinden daha fazla yararli is cikarmak icin vardir.

Sinirlar konusunda durust olmakta fayda var. GPU lar sihirli degildir ve her zaman gerekli degildir. Hafif goruntu islemleri dahil pek cok gunluk yapay zeka, CPU larda veya mutevazi donanimda gayet iyi calisir. GPU avantaji tam olarak is buyuk, tekrarli ve paralel oldugunda en buyuktur.

Bunun gunluk araclara dokundugu yer

Yapay zeka goruntu araclari kullaniyorsaniz, ayni hikaye sessizce altta calisiyordur. Bir uygulama bir urun fotografini temizlerken, karisik bir arka plani kaldirirken ya da yeni bir sahne uretirken, goruntunuzu bir sinir agindan, yani yukarida anlatilan ayni paralel matris matematiginden geciriyordur; bu da genellikle bir veri merkezindeki GPU uzerinde olur.

Renderivo, e-ticaret saticilari icin tam bu fikir uzerine kuruludur. Bir urun fotografi yuklersiniz ve agir is sunucu tarafinda gerceklesir; boylece bir GPU sahibi olmadan ya da donanimi hic dusunmeden temiz beyaz arka planli veya kare cerceveli bir kare elde edersiniz. Yeni hesaplar ucretsiz kredi alir, dolayisiyla magazaniza uygun olup olmadigina karar vermeden once deneyebilirsiniz.

Cikarim basit: yapay zeka GPU lara yaslanir cunku sinir aglari ozunde devasa miktarda bagimsiz matematiktir ve GPU lar da devasa miktarda bagimsiz matematigi ayni anda yapmak icin yapilmis ciplerdir.