PyTorch lahko pospeši aplikacije AI/ML z uporabo NVIDIA GPE prek knjižnice NVIDIA CUDA, tako kot TensorFlow.
V tem članku vam bomo pokazali, kako namestiti PyTorch s podporo za pospeševanje NVIDIA GPU/CUDA na Debian 12 »Bookworm«.
Tema vsebine:
- Namestitev gonilnikov NVIDIA GPE v Debian 12
- Namestitev NVIDIA CUDA na Debian 12
- Namestitev Python 3 PIP in Python 3 Virtual Environment (venv) na Debian 12
- Ustvarjanje virtualnega okolja Python 3 za PyTorch
- Nadgradnja Python 3 PIP na najnovejšo različico v virtualnem okolju Python 3 PyTorch
- Namestitev PyTorcha s podporo za pospešek NVIDIA GPU/CUDA na Debian 12
- Aktiviranje virtualnega okolja PyTorch Python 3
- Dostop do PyTorcha in preverjanje, ali je na voljo pospešek NVIDIA GPU/CUDA
- Zaključek
Namestitev gonilnikov NVIDIA GPE v Debian 12
Da pospeševanje PyTorch NVIDIA GPU/CUDA deluje, morate namestite gonilnike GPE NVIDIA v Debian 12 . Če potrebujete kakršno koli pomoč pri namestitvi gonilnikov NVIDIA GPU v vaš sistem Debian 12, preberi ta članek .
Namestitev NVIDIA CUDA na Debian 12
Da pospešek PyTorch NVIDIA GPU/CUDA deluje na Debianu 12, morate namestite NVIDIA CUDA na Debian 12 . Če potrebujete pomoč pri namestitvi NVIDIA CUDA na vaš sistem Debian 12, preberi ta članek .
Namestitev Python 3 PIP in Python 3 Virtual Environment (venv) na Debian 12
Če želite namestiti PyTorch na Debian 12, morate imeti nameščen Python 3 PIP in navidezno okolje Python (venv).
Najprej posodobite predpomnilnik repozitorija paketov APT z naslednjim ukazom:
$ sudo primerna posodobitev 
Če želite namestiti Python 3 PIP in navidezno okolje Python 3 (venv), zaženite naslednji ukaz:
$ sudo apt namestite python3-pip python3-venv python3-dev Za potrditev namestitve pritisnite “Y” in nato pritisnite
Nameščata se Python 3 PIP in Python 3 venv. Za dokončanje traja nekaj časa.
Na tej točki bi morala biti nameščena Python 3 PIP in Python 3 venv.
Ustvarjanje virtualnega okolja Python 3 za PyTorch
Standardna praksa za namestitev knjižnic Python v Debian 12 je njihova namestitev v virtualno okolje Python, tako da ne motijo sistemskih paketov/knjižnic Python.
Če želite ustvariti novo virtualno okolje Python 3 za PyTorch v imeniku »/opt/pytorch«, zaženite naslednji ukaz:
$ sudo python3 -m venv / opt / pytorchNadgradnja Python 3 PIP na najnovejšo različico v virtualnem okolju Python 3 PyTorch
Če želite nadgraditi Python 3 PIP na najnovejšo različico v virtualnem okolju Python 3 “/opt/pytorch”, zaženite naslednji ukaz:
$ sudo / opt / pytorch / koš / pip3 namestite --nadgradnja pip 
Namestitev PyTorcha s podporo za pospešek NVIDIA GPU/CUDA na Debian 12
Da pospešek PyTorch NVIDIA GPU/CUDA deluje, morate namestiti pravilno različico PyTorch, ki podpira različico gonilnika NVIDIA CUDA, ki ste jo namestili v svoj sistem Debian 12. V času tega pisanja PyTorch podpira različici gonilnika NVIDIA CUDA 11.8 in 12.1. Za posodobljene informacije o različicah gonilnika NVIDIA CUDA, ki jih podpira PyTorch, preverite uradno spletno stran PyTorch .
Če želite preveriti različico gonilnika NVIDIA CUDA, ki ste jo namestili v sistem Debian 12, zaženite naslednji ukaz. Kot lahko vidite, imamo v našem sistemu Debian 12 nameščeno različico NVIDIA CUDA 11.8.
$ nvcc --različica 
Če želite namestiti PyTorch s podporo za NVIDIA CUDA 11.8 v virtualnem okolju PyTorch Python 3, zaženite naslednji ukaz:
$ sudo / opt / pytorch / koš / pip3 namestite svetilka torchvision torchaudio --index-url https: // download.pytorch.org / whl / s 118Če želite namestiti PyTorch s podporo za NVIDIA CUDA 12.1 v virtualnem okolju PyTorch Python 3, zaženite naslednji ukaz:
$ sudo / opt / pytorch / koš / pip3 namestite svetilka torchvision torchaudioPyTorch se namešča v virtualno okolje PyTorch Python 3. Za dokončanje traja nekaj časa.
Na tej točki bi moral biti PyTorch nameščen v virtualnem okolju PyTorch Python 3
Aktiviranje virtualnega okolja PyTorch Python 3
Če želite aktivirati virtualno okolje PyTorch Python »/opt/pytorch«, zaženite naslednji ukaz:
$ . / opt / pytorch / koš / aktiviratiVirtualno okolje PyTorch Python 3 mora biti aktivirano.
Dostop do PyTorcha in preverjanje, ali je na voljo pospešek NVIDIA GPU/CUDA
Če želite odpreti interaktivno lupino Python 3, zaženite naslednji ukaz:
$ python3Odpreti je treba interaktivno lupino Python 3.
Najprej uvozite PyTorch z naslednjo vrstico kode:
$ uvozna svetilka 
Če želite preveriti različico PyTorch, ki ste jo namestili, zaženite naslednjo vrstico kode. Kot lahko vidite, uporabljamo PyTorch 2.1.0 s podporo za pospeševanje NVIDIA CUDA 11.8 (cu118).
$ bakla.__različica__ 
Če želite preveriti, ali je PyTorch sposoben uporabljati vaš NVIDIA GPE za pospeševanje NVIDIA CUDA, lahko zaženete tudi naslednjo vrstico kode. Če je na voljo podpora za NVIDIA CUDA, bo natisnjeno »True«.
$ torch.cuda.is_available ( )Če imate v računalniku nameščenih več grafičnih procesorjev, lahko preverite število grafičnih procesorjev, ki jih lahko uporablja PyTorch, z naslednjo vrstico kode. Kot lahko vidite, imamo v našem sistemu Debian 12 nameščeno grafično kartico NVIDIA (RTX 4070).
$ torch.cuda.device_count ( )Za izhod iz interaktivne lupine Python zaženite naslednjo vrstico kode:
$ prenehati ( )Zaključek
V tem članku smo vam pokazali, kako namestite Python 3 PIP in navidezno okolje Python 3 (venv) na Debian 12. Pokazali smo vam tudi, kako ustvarite navidezno okolje Python 3 za PyTorch na Debian 12 in kako namestite PyTorch z NVIDIA CUDA Podpora za pospeševanje 11.8 in 12.1 tudi v Debianu 12. Na koncu smo vam pokazali, kako aktivirate virtualno okolje PyTorch Python in dostopate do PyTorch v Debianu 12.