解決安裝 ollama 在 wsl2 中報 WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.問題

假不了發表於2024-04-24
GPU

  • 首先要確保wsl2 版的 cuda 環境已經安裝

  • [非必須]如果已安裝了環境但是 nvidia-smi 找不到，可能是未加入環境變數，請將它的路徑/usr/lib/wsl/lib加入 PATH

  • ollama 在 /usr/bin/ 找不到 nvidia-smi 位置，所以會有如上警告，所以需要創個連結指向：

    • 方法一：sudo ln -s $(which nvidia-smi) /usr/bin/
    • 方法二：sudo ln -s /usr/lib/wsl/lib/nvidia-smi /usr/bin/

    參考：https://github.com/ollama/ollama/issues/1460#issuecomment-1862181745

  • 然後解除安裝重灌就可以了（我是這樣解決的）

相關文章