解決安裝 ollama 在 wsl2 中報 WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.問題

假不了發表於2024-04-24
  • 首先要確保wsl2 版的 cuda 環境已經安裝

  • [非必須]如果已安裝了環境但是 nvidia-smi 找不到,可能是未加入環境變數,請將它的路徑/usr/lib/wsl/lib加入 PATH

  • ollama 在 /usr/bin/ 找不到 nvidia-smi 位置,所以會有如上警告,所以需要創個連結指向:

    • 方法一:sudo ln -s $(which nvidia-smi) /usr/bin/
    • 方法二:sudo ln -s /usr/lib/wsl/lib/nvidia-smi /usr/bin/

    參考:https://github.com/ollama/ollama/issues/1460#issuecomment-1862181745

  • 然後解除安裝重灌就可以了(我是這樣解決的)

相關文章