解決Python使用GPU

TechSynapse發表於2024-06-09
PythonGPU

在Python中使用GPU進行計算通常涉及到一些特定的庫，如NumPy、SciPy的GPU加速版本（如CuPy、PyCUDA等）或深度學習庫（如TensorFlow、PyTorch等）。這些庫能夠利用GPU進行平行計算，從而加速資料處理和模型訓練等任務。

以下是一個使用TensorFlow和PyTorch在Python中利用GPU進行計算的詳細示例。這兩個庫在深度學習中非常流行，並且都支援GPU加速。

1.解決Python使用GPU的方法示例

1.1TensorFlow示例

首先，確保我們已經安裝了TensorFlow的GPU版本。我們可以使用pip來安裝：

bash複製程式碼

pip install tensorflow-gpu

然後，在Python程式碼中，我們可以使用以下方式來確保TensorFlow使用GPU進行計算：

import tensorflow as tf  
  
# 檢查TensorFlow是否可以使用GPU  
gpus = tf.config.experimental.list_physical_devices('GPU')  
if gpus:  
    try:  
        # 確保TensorFlow使用第一個GPU  
        tf.config.experimental.set_visible_devices(gpus[0], 'GPU')  
        logical_gpus = tf.config.experimental.list_logical_devices('GPU')  
        print(len(gpus), "Physical GPUs,", len(logical_gpus), "Logical GPU")  
    except RuntimeError as e:  
        # 如果可見裝置必須在執行時設定，會丟擲異常  
        print(e)  
  
# 建立一個簡單的計算圖來測試GPU  
a = tf.constant([1.0, 2.0, 3.0, 4.0], shape=[2, 2], name='a')  
b = tf.constant([1.0, 2.0], shape=[2, 1], name='b')  
c = tf.matmul(a, b)  
  
print("Result:", c)

1.2PyTorch示例

同樣地，首先確保我們已經安裝了PyTorch的GPU版本。我們可以使用pip或conda來安裝：

# 使用pip安裝  
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/torch_stable.html  
  
# 或者使用conda安裝（如果我們正在使用Anaconda或Miniconda）  
conda install pytorch torchvision torchaudio cudatoolkit=11.3 -c pytorch

注意：上面的命令中的cudatoolkit=11.3應該與我們的CUDA版本相對應。

然後，在Python程式碼中，我們可以使用以下方式來確保PyTorch使用GPU進行計算：

import torch  
  
# 檢查是否有可用的GPU  
if torch.cuda.is_available():    
    dev = "cuda:0" # 如果有GPU，則使用第一個GPU  
    device = torch.device(dev)  # 一個裝置物件表示CPU或GPU  
    print('There are %d GPU(s) available.' % torch.cuda.device_count())  
    print('We will use the GPU:', torch.cuda.get_device_name(0))  
else:  
    print('No GPU available, using the CPU instead.')  
    device = torch.device("cpu")  
  
# 建立一個張量並移動到GPU上  
x = torch.tensor([1.0, 2.0, 3.0, 4.0])  
x = x.to(device)  
y = torch.tensor([1.0, 1.0])  
y = y.to(device)  
  
# 在GPU上進行計算  
z = x * y  
print(z)

這兩個示例分別展示瞭如何在TensorFlow和PyTorch中配置和使用GPU進行計算。在實際應用中，這些庫通常用於構建和訓練深度學習模型，這些模型可以非常有效地利用GPU進行平行計算。

2.如何安裝TensorFlow GPU版本

安裝TensorFlow GPU版本需要確保我們的系統滿足一些特定的要求，並遵循一定的步驟。以下是一個清晰、分點表示的安裝指南：

2.1系統要求

  • NVIDIA GPU：我們需要有一個支援CUDA的NVIDIA GPU。我們可以在NVIDIA官方文件中查詢具備條件的GPU清單。
  • CUDA和cuDNN：我們需要安裝與我們的TensorFlow版本相容的CUDA和cuDNN版本。
  • Python：TensorFlow支援Python 3.5至3.9（具體版本可能因TensorFlow版本而異）。
  • 其他依賴項：我們可能還需要安裝其他依賴項，如Anaconda（可選，但推薦用於管理Python環境和依賴項）。

2.2安裝步驟

2.2.1 確定TensorFlow版本和CUDA/cuDNN版本

  • TensorFlow版本：選擇我們想要安裝的TensorFlow版本。請注意，不同版本的TensorFlow可能需要不同版本的CUDA和cuDNN。
  • CUDA和cuDNN版本：查閱TensorFlow官方文件或GitHub頁面上的“安裝指南”部分，以確定與我們的TensorFlow版本相容的CUDA和cuDNN版本。

2.2.2 安裝CUDA和cuDNN

  • 下載CUDA：從NVIDIA官方網站下載與我們的系統和TensorFlow版本相容的CUDA版本。
  • 安裝CUDA：按照NVIDIA提供的安裝指南進行安裝。通常，我們需要選擇自定義安裝並確保安裝必要的元件（如CUDA執行時庫、NVCC編譯器等）。
  • 下載cuDNN：從NVIDIA官方網站下載與我們的CUDA版本相容的cuDNN版本。請注意，cuDNN是一個需要註冊的下載。
  • 安裝cuDNN：將cuDNN庫檔案（如libcudnn.so、libcudnn_ops_train.so等）複製到CUDA安裝目錄中的相應位置。

2.2.3 安裝TensorFlow GPU版本

  • 使用pip安裝：開啟命令列終端（如CMD、PowerShell、Terminal等），然後執行以下命令來安裝TensorFlow GPU版本：
bash複製程式碼

pip install tensorflow-gpu==<your_tensorflow_version>

將<your_tensorflow_version>替換為我們想要安裝的TensorFlow版本。

  • 使用conda安裝（如果我們正在使用Anaconda）：開啟Anaconda Prompt，然後執行以下命令來安裝TensorFlow GPU版本：
bash複製程式碼

conda install tensorflow-gpu=<your_tensorflow_version>

同樣，將<your_tensorflow_version>替換為我們想要安裝的TensorFlow版本。

2.3驗證安裝

安裝完成後，我們可以透過執行一個簡單的TensorFlow程式來驗證GPU是否已正確安裝並可用於TensorFlow。例如，我們可以建立一個簡單的計算圖來測試GPU是否可用。

請注意，以上步驟可能因我們的系統和TensorFlow版本而有所不同。因此，請務必參考TensorFlow官方文件和NVIDIA官方文件以獲取最準確和最新的安裝指南。

3.如何安裝CUDA

安裝CUDA的步驟如下，我將按照清晰、分點表示和歸納的方式給出指導，並儘量參考文章中的相關資訊。

3.1準備工作

（1）確認系統支援：確保我們的作業系統支援CUDA。CUDA支援Windows、Linux和Mac OS等作業系統。

（2）檢查NVIDIA GPU：確保我們的計算機裝有NVIDIA的GPU，並且該GPU支援CUDA。可以透過NVIDIA控制皮膚或nvidia-smi命令來檢視我們的GPU型號及支援的CUDA版本。

（3）確認驅動版本：確保我們的NVIDIA驅動是最新或至少是支援CUDA的版本。

3.2下載CUDA

（1）訪問NVIDIA官網：開啟NVIDIA的CUDA Toolkit下載頁面（CUDA Toolkit Archive | NVIDIA Developer）。

（2）選擇版本：根據我們的作業系統、CUDA版本和架構（如x86_64）來選擇合適的CUDA Toolkit版本。注意，版本要與我們的顯示卡驅動相容。

（3）下載：點選“Download”按鈕下載CUDA Toolkit安裝包。

3.3安裝CUDA

（1）雙擊安裝包：找到下載的CUDA Toolkit安裝包（通常是.exe或.run檔案），雙擊開始安裝。

（2）同意許可協議：閱讀並同意NVIDIA的軟體許可協議。

（3）自定義安裝：推薦選擇“自定義”安裝，以便我們可以選擇需要安裝的元件。如果我們是第一次安裝，建議選擇全部元件；如果是更新或重新安裝，可以選擇只安裝必要的元件。

（4）設定安裝路徑：如果沒有特殊要求，建議按照預設路徑進行安裝。記住安裝路徑，因為後續配置環境變數時需要用到。

（5）等待安裝完成：安裝過程中可能需要一些時間，請耐心等待。

3.4配置環境變數

3.4.1Windows系統

  • 右鍵點選“此電腦”或“計算機”，選擇“屬性”。
  • 點選“高階系統設定”，然後點選“環境變數”。
  • 在系統變數中找到“Path”變數，點選“編輯”，然後新增CUDA的安裝路徑（如C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v<version>\bin和C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v<version>\libnvvp）。

3.4.2Linux系統

  • 開啟終端，使用文字編輯器（如nano或vim）開啟.bashrc檔案（通常在使用者的主目錄下）。

  • 在檔案末尾新增類似下面的行來設定環境變數（具體路徑根據我們的安裝位置而定）：

    export PATH=/usr/local/cuda-<version>/bin${PATH:+:${PATH}}  
export LD_LIBRARY_PATH=/usr/local/cuda-<version>/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

  • 儲存並關閉檔案。

  • 在終端中輸入source ~/.bashrc來使環境變數生效。

3.5驗證安裝

（1）Windows系統：開啟命令提示符（CMD）或PowerShell，輸入nvcc -V來檢視CUDA版本資訊。

（2）Linux系統：在終端中輸入nvcc -V來檢視CUDA版本資訊。

如果看到CUDA的版本資訊，說明CUDA已經成功安裝並配置好了環境變數。現在我們可以開始使用CUDA進行GPU加速了！

相關文章