जीपीयू समर्थन

नोट: GPU समर्थन CUDA® सक्षम कार्ड के साथ Ubuntu और Windows के लिए उपलब्ध है।

TensorFlow GPU समर्थन के लिए ड्राइवरों और पुस्तकालयों के वर्गीकरण की आवश्यकता होती है। स्थापना को सरल बनाने और पुस्तकालय संघर्ष से बचने के लिए, हम एक का उपयोग करना चाहिये GPU समर्थन के साथ TensorFlow डोकर छवि (Linux)। इस सेटअप केवल आवश्यकता है NVIDIA® GPU ड्राइवरों ।

ये इंस्टॉलेशन निर्देश TensorFlow की नवीनतम रिलीज़ के लिए हैं। देखें परीक्षण किया निर्माण विन्यास CUDA® और cuDNN संस्करणों पुराने TensorFlow रिलीज के साथ उपयोग करने के लिए।

पिप पैकेज

देखें पिप गाइड स्थापित उपलब्ध संकुल, सिस्टम आवश्यकताओं और निर्देशों के लिए। TensorFlow pip पैकेज CUDA® सक्षम कार्ड के लिए GPU समर्थन में शामिल हैं:

pip install tensorflow

इस गाइड कवर GPU समर्थन और नवीनतम स्थिर TensorFlow जारी करने के लिए स्थापना चरणों।

TensorFlow के पुराने संस्करण

1.15 और पुराने रिलीज़ के लिए, CPU और GPU पैकेज अलग हैं:

pip install tensorflow==1.15      # CPU
pip install tensorflow-gpu==1.15  # GPU

हार्डवेयर आवश्यकताएँ

निम्नलिखित GPU-सक्षम डिवाइस समर्थित हैं:

• CUDA® आर्किटेक्चर 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 और 8.0 से अधिक के साथ NVIDIA® GPU कार्ड। की सूची देखें CUDA® सक्षम GPU कार्ड ।
• GPUs असमर्थित CUDA® आर्किटेक्चर के साथ, या PTX से बचने JIT संकलन करने के लिए, या NVIDIA® पुस्तकालयों के विभिन्न संस्करणों का उपयोग करने के लिए, देखें स्रोत से लिनक्स निर्माण गाइड।
• नवीनतम समर्थित CUDA® आर्किटेक्चर को छोड़कर पैकेज में PTX कोड नहीं है; इसलिए, TensorFlow बड़े GPUs पर लोड करने के लिए जब विफल रहता है CUDA_FORCE_PTX_JIT=1 सेट है। (देखें आवेदन संगतता जानकारी के लिए।)

नोट: त्रुटि संदेश "स्थिति: डिवाइस गिरी छवि अमान्य है" इंगित करता है कि TensorFlow पैकेज आपके वास्तुकला के लिए PTX शामिल नहीं है। आप द्वारा गणना क्षमताओं को सक्षम कर सकते हैं स्रोत से TensorFlow निर्माण ।

सॉफ़्टवेयर आवश्यकताएं

आपके सिस्टम पर निम्नलिखित NVIDIA® सॉफ़्टवेयर स्थापित होना चाहिए:

• NVIDIA® GPU ड्राइवरों -CUDA® 11.2 450.80.02 या उच्चतर की आवश्यकता है।
• CUDA® टूलकिट -TensorFlow CUDA® 11.2 का समर्थन करता है (TensorFlow> = 2.5.0)
• CUPTI CUDA® टूलकिट के साथ जहाज।
• cuDNN एसडीके 8.1.0 cuDNN संस्करणों )।
• (वैकल्पिक) TensorRT 7 विलंबता और throughput अनुमान के लिए कुछ मॉडलों पर सुधार करने के लिए।

लिनक्स सेटअप

apt नीचे दिए गए निर्देशों Ubuntu पर आवश्यक NVIDIA सॉफ्टवेयर स्थापित करने के लिए सबसे आसान तरीका है। हालांकि, अगर स्रोत से TensorFlow निर्माण , मैन्युअल रूप से ऊपर सूचीबद्ध सॉफ्टवेयर आवश्यकताओं को स्थापित करने, और एक प्रयोग करने पर विचार -devel TensorFlow डोकर छवि एक आधार के रूप।

स्थापित CUPTI CUDA® टूलकिट के साथ जो जहाजों। करने के लिए अपने स्थापना निर्देशिका संलग्न $LD_LIBRARY_PATH पर्यावरण चर:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

उपयुक्त के साथ CUDA स्थापित करें

यह खंड दिखाता है कि Ubuntu 16.04 और 18.04 पर CUDA® 11 (TensorFlow >= 2.4.0) कैसे स्थापित करें। ये निर्देश अन्य डेबियन-आधारित डिस्ट्रो के लिए काम कर सकते हैं।

सावधानी: सुरक्षित बूट NVIDIA ड्राइवर की स्थापना पेचीदा और इन निर्देशों के दायरे से बाहर है।

उबंटू 18.04 (CUDA 11.0)

# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update

wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb

sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update

wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0

# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0

उबंटू 16.04 (सीयूडीए 11.0)

# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update

# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
    cuda-11-0 \
    libcudnn8=8.0.4.30-1+cuda11.0  \
    libcudnn8-dev=8.0.4.30-1+cuda11.0


# Reboot. Check that GPUs are visible using the command: nvidia-smi

# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
    libnvinfer7=7.1.3-1+cuda11.0 \
    libnvinfer-dev=7.1.3-1+cuda11.0 \
    libnvinfer-plugin7=7.1.3-1+cuda11.0 \
    libnvinfer-plugin-dev=7.1.3-1+cuda11.0

विंडोज सेटअप

देखें हार्डवेयर आवश्यकताओं और सॉफ्टवेयर आवश्यकताओं ऊपर सूचीबद्ध। पढ़ें CUDA® विंडोज के लिए गाइड स्थापित ।

सुनिश्चित करें कि स्थापित NVIDIA सॉफ़्टवेयर पैकेज ऊपर सूचीबद्ध संस्करणों से मेल खाते हैं। विशेष रूप से, TensorFlow बिना लोड नहीं होगा cuDNN64_8.dll फ़ाइल। एक भिन्न संस्करण का उपयोग करने के लिए, को देखने के स्रोत से विंडोज निर्माण गाइड।

करने के लिए CUDA®, CUPTI, और cuDNN स्थापना निर्देशिका जोड़ें %PATH% पर्यावरण चर। उदाहरण के लिए, यदि CUDA® टूलकिट करने के लिए स्थापित किया गया है C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 और cuDNN लिए C:\tools\cuda , अपने को अद्यतन %PATH% मैच के लिए:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%