Izkušnje so ključnega pomena za razvoj spretnosti, ki so potrebne za poglobljeno učenje pri novih vprašanjih. Hiter grafični procesor pomeni hitro pridobivanje praktičnih izkušenj s takojšnjo povratno informacijo. GPU -ji vsebujejo več jeder za obravnavo vzporednih izračunov. Vključujejo tudi obsežno pomnilniško pasovno širino za enostavno upravljanje teh informacij.
| Naš najboljši izbor za najboljšo grafično kartico za poglobljeno učenje je Nvidia Geforce RTX 2080 Founders Edition. Kupite ga zdaj za $ 1,940 USD na Amazon |
 |
S tem v mislih skušamo odgovoriti na vprašanje: Katera je najboljša grafična kartica za AI, strojno učenje in poglobljeno učenje? s pregledom več grafičnih kartic, ki so trenutno na voljo leta 2021. Revidirane kartice:
Spodaj so rezultati:
AMD RX Vega 64
Radeon RX Vega 64
Lastnosti
- Datum izida: 14. avgust 2017
- Arhitektura Vega
- Vmesnik PCI Express
- Taktna hitrost: 1247 MHz
- Pretočni procesorji: 4096
- VRAM: 8 GB
- Pasovna širina pomnilnika: 484 GB/s
Pregled
Če vam grafični procesorji NVIDIA niso všeč ali vam proračun ne omogoča porabe več kot 500 USD za grafično kartico, potem ima AMD pametno alternativo. AMD RS Vega 64, ki ima dostojno količino RAM -a, hitro pasovno širino pomnilnika in več kot dovolj tokovnih procesorjev, je zelo težko prezreti.
Arhitektura Vega je nadgradnja prejšnjih kartic RX. Po zmogljivostih je ta model blizu GeForce RTX 1080 Ti, saj imata oba modela podoben VRAM. Poleg tega Vega podpira domačo pol natančnost (FP16). ROCm in TensorFlow delujeta, vendar programska oprema ni tako zrela kot pri grafičnih karticah NVIDIA.
Na splošno je Vega 64 spodoben grafični procesor za poglobljeno učenje in AI. Ta model stane precej pod 500 USD in opravi delo za začetnike. Za profesionalne aplikacije pa priporočamo, da se odločite za kartico NVIDIA.
Podrobnosti o AMD RX Vega 64: Amazon
NVIDIA Tesla V100
Tesla V100
Lastnosti:
- Datum izida: 7. december 2017
- Arhitektura NVIDIA Volta
- Vmesnik PCI-E
- Učinkovitost tenzorja 112 TFLOPS
- 640 tenzorskih barv
- 5120 Barve NVIDIA CUDA®
- VRAM: 16 GB
- Pasovna širina pomnilnika: 900 GB/s
- Računalniški API -ji: CUDA, DirectCompute, OpenCL ™, OpenACC®
Pregled:
NVIDIA Tesla V100 je velikan in ena najboljših grafičnih kartic za AI, strojno učenje in poglobljeno učenje. Ta kartica je popolnoma optimizirana in je opremljena z vsemi dobrotami, ki jih boste morda potrebovali v ta namen.
Tesla V100 je na voljo v 16 GB in 32 GB pomnilniških konfiguracijah. Z veliko VRAM -a, pospeševanjem AI, visoko pasovno širino pomnilnika in specializiranimi tenzorskimi jedri za globoko učenje ste lahko prepričani, da bo vsak vaš model usposabljanja deloval nemoteno - in v krajšem času. Natančneje, Tesla V100 lahko prinese 125TFLOPS zmogljivosti globokega učenja za usposabljanje in sklepanje [3], kar omogoča arhitektura NVIDIA Volta.
Podrobnosti o NVIDIA Tesla V100: Amazon , (( 1 )
Nvidia Quadro RTX 8000
Nvidia Quadro Rtx 8000
Lastnosti:
- Datum izida: avgust 2018
- Turingova arhitektura
- 576 tenzorskih barv
- CUDA Barve: 4.608
- VRAM: 48 GB
- Pasovna širina pomnilnika: 672 GB/s
- 16,3 TFLOPS
- Sistemski vmesnik: PCI-Express
Pregled:
Quadro RTX 8000 je posebej zgrajena za aritmetično matriko in računanje matrike in je vrhunska grafična kartica. Ker ima ta kartica veliko zmogljivost VRAM (48 GB), je ta model priporočljiv za raziskovanje izredno velikih računalniških modelov. Ko se uporablja v paru z NVLinkom, se lahko zmogljivost poveča na 96 GB VRAM -a. Kar je veliko!
Kombinacija 72 RT in 576 Tensor jeder za izboljšane delovne tokove povzroči več kot 130 TFLOPS zmogljivosti. V primerjavi z najdražjo grafično kartico na našem seznamu - Teslo V100 - ta model potencialno ponuja 50 odstotkov več pomnilnika in še vedno stane manj. Tudi pri vgrajenem pomnilniku ima ta model izjemne zmogljivosti pri delu z večjimi serijami na enem grafičnem procesorju.
Tudi ta model, tako kot Tesla V100, omejuje le vaša cenovna streha. Če pa želite vlagati v prihodnost in v kakovostno računalništvo, si priskrbite RTX 8000. Kdo ve, morda boste vodili raziskave o AI. Tesla V100 temelji na Turingovi arhitekturi, kjer V100 temelji na arhitekturi Volta, zato lahko Nvidia Quadro RTX 8000 velja za nekoliko modernejšo in nekoliko močnejšo od V100.
Podrobnosti o Nvidiji Quadro RTX 8000: Amazon
GeForce RTX 2080 Ti
Geforce RTX 2080 Founders Edition
Lastnosti:
- Datum izida: 20. september 2018
- Turingova arhitektura grafičnega procesorja in platforma RTX
- Taktna hitrost: 1350 MHz
- CUDA Barve: 4352
- 11 GB izjemno hitrega pomnilnika GDDR6 naslednje generacije
- Pasovna širina pomnilnika: 616 GB/s
- Moč: 260 W
Pregled:
GeForce RTX 2080 Ti je proračunska možnost, idealna za manjše obremenitve pri modeliranju in ne za obsežen razvoj usposabljanja. To je zato, ker ima na kartici manj pomnilnika GPU (le 11 GB). Omejitve tega modela postanejo bolj očitne pri usposabljanju nekaterih sodobnih modelov NLP. Vendar to ne pomeni, da ta kartica ne more tekmovati. Zasnova ventilatorja na RTX 2080 omogoča veliko gostejše konfiguracije sistema - do štiri grafične procesorje na eni delovni postaji. Poleg tega ta model trenira nevronska omrežja pri 80 odstotkih hitrosti Tesla V100. Po merilih uspešnosti LambdaLabs za globoko učenje je v primerjavi s Teslo V100 RTX 2080 73% hitrost FP2 in 55% hitrost FP16.
Medtem pa ta model stane skoraj 7 -krat manj kot Tesla V100. S stališča cene in zmogljivosti je GeForce RTX 2080 Ti odličen grafični procesor za poglobljeno učenje in razvoj AI.
Podrobnosti o GeForce RTX 2080 Ti: Amazon
NVIDIA Titan RTX
Grafika NVIDIA Titan RTX
Lastnosti:
- Datum izida: 18. december 2018
- Poganja ga arhitektura NVIDIA Turing ™, zasnovana za umetno inteligenco
- 576 tenzorskih jeder za pospeševanje AI
- 130 teraFLOPS (TFLOPS) za globoko učenje
- CUDA Barve: 4608
- VRAM: 24 GB
- Pasovna širina pomnilnika: 672 GB/s
- Priporočeno napajanje 650 vatov
Pregled:
NVIDIA Titan RTX je še en grafični procesor srednjega razreda, ki se uporablja za kompleksne operacije globokega učenja. 24 GB VRAM -a tega modela je dovolj za delo z večino paketov. Če pa želite trenirati večje modele, povežite to kartico z mostom NVLink, da boste imeli učinkovito 48 GB VRAM -a. Ta znesek bi zadostoval tudi za modele velikih transformatorjev NLP. Poleg tega Titan RTX omogoča celovito usposabljanje mešane natančnosti za modele (tj. FP 16 skupaj s kopičenjem FP32). Posledično se ta model pri operacijah, kjer se uporabljajo tenzorska jedra, izvaja približno 15 do 20 odstotkov hitreje.
Ena od omejitev NVIDIA Titan RTX je zasnova dvojnega ventilatorja. To ovira bolj zapletene sistemske konfiguracije, ker jih ni mogoče zapakirati v delovno postajo brez bistvenih sprememb hladilnega mehanizma, kar ni priporočljivo.
Na splošno je Titan odličen, večnamenski grafični procesor za skoraj vsako nalogo globokega učenja. V primerjavi z drugimi grafičnimi karticami za splošno uporabo je vsekakor drago. Zato ta model ni priporočljiv za igralce. Kljub temu bi raziskovalci, ki uporabljajo kompleksne modele globokega učenja, cenili dodatno povečanje VRAM -a in zmogljivosti. Cena Titan RTX je bistveno nižja od zgoraj predstavljenega V100 in bi bila dobra izbira, če vaš proračun ne omogoča globokega učenja cen V100 ali če vaša delovna obremenitev ne potrebuje več kot Titan RTX ( oglejte si zanimiva merila )
Podrobnosti o NVIDIA Titan RTX: Amazon
Izbira najboljše grafične kartice za AI, strojno učenje in poglobljeno učenje
Naloge AI, strojnega učenja in poglobljenega učenja obdelujejo kupe podatkov. Te naloge so lahko zelo zahtevne za vašo strojno opremo. Spodaj so funkcije, ki jih morate upoštevati pred nakupom grafičnega procesorja.
Barve
Preprosto pravilo, večje je število jeder, večja bo zmogljivost vašega sistema. Upoštevati je treba tudi število jeder, zlasti če imate opravka z veliko količino podatkov. NVIDIA je svoja jedra poimenovala CUDA, medtem ko AMD njihova jedra imenuje procesorje. Poiščite največje število procesorskih jeder, ki vam jih bo proračun dovolil.
Procesna moč
Procesna moč grafičnega procesorja je odvisna od števila jeder v sistemu, pomnoženega s taktom, pri katerem izvajate jedra. Višja kot je hitrost in večje število jeder, večja bo procesorska moč, pri kateri lahko vaš grafični procesor izračuna podatke. To tudi določa, kako hitro bo vaš sistem opravil nalogo.
VRAM
Video RAM ali VRAM je merilo količine podatkov, ki jih lahko sistem obdeluje hkrati. Višji VRAM je bistvenega pomena, če delate z različnimi modeli računalniškega vida ali nastopate na kakršnih koli tekmovanjih v življenjepisu Kaggle. VRAM ni tako pomemben za NLP ali za delo z drugimi kategoričnimi podatki.
Pasovna širina spomina
Pomnilniška pasovna širina je hitrost, s katero se podatki preberejo ali shranijo v pomnilnik. Preprosto povedano, to je hitrost VRAM -a. Večja pasovna širina pomnilnika, merjena v GB/s, pomeni, da lahko kartica v krajšem času črpa več podatkov, kar pomeni hitrejše delovanje.
Hlajenje
Temperatura grafičnega procesorja je lahko znatno ozko grlo pri zmogljivostih. Sodobni grafični procesorji pri izvajanju algoritma povečajo svojo hitrost do maksimuma. Toda takoj, ko je dosežen določen temperaturni prag, GPU zmanjša hitrost obdelave, da se zaščiti pred pregrevanjem.
Zasnova ventilatorja za hladilnike zraka potisne zrak iz sistema, medtem ko ventilatorji, ki ne pihajo, sesajo zrak. V arhitekturi, kjer je več grafičnih procesorjev nameščenih drug poleg drugega, se bodo ventilatorji brez puhala bolj segreli. Če uporabljate zračno hlajenje v nastavitvah s 3 do 4 grafičnimi procesorji, se izogibajte ventilatorjem brez puhala.
Druga možnost je vodno hlajenje. Čeprav je draga, je ta metoda veliko bolj tiha in zagotavlja, da tudi najbolj gotove nastavitve grafičnega procesorja ostanejo hladne med delovanjem.
Zaključek
Za večino uporabnikov, ki si prizadevajo za poglobljeno učenje, bosta RTX 2080 Ti ali Titan RTX zagotovila največji zaslužek. Edina pomanjkljivost RTX 2080 Ti je omejena velikost pomnilnika 11 GB. Usposabljanje z večjimi serijami omogoča modelom, da trenirajo hitreje in veliko natančneje, kar prihrani veliko časa uporabnika. To je mogoče le, če imate grafične procesorje Quadro ali TITAN RTX. Uporaba polovične natančnosti (FP16) omogoča, da se modeli prilegajo grafičnim procesorjem z nezadostno velikostjo pomnilnika VRAM [2]. Za naprednejše uporabnike pa morate vložiti Tesla V100. To je naš najboljši izbor za najboljšo grafično kartico za AI, strojno učenje in poglobljeno učenje. To je vse za ta članek. Upamo, da vam je bilo všeč. Do naslednjič!
Reference
- Najboljši grafični procesorji za umetno inteligenco, strojno učenje in poglobljeno učenje v letu 2020
- Najboljša grafična kartica za poglobljeno učenje leta 2020
- INFERENČNA PLATFORMA NVIDIA AI: velikanski skoki v zmogljivosti in učinkovitosti storitev AI, od podatkovnega centra do roba omrežja
- NVIDIA V100 TENZORSKI JEDRENI GPU
- Merila za poglobljeno učenje Titan RTX