多卡4090伺服器怎麼使用指定顯示卡啟動服務

minseo發表於2024-11-01

多卡4090在啟動服務時如果不指定顯示卡則多個應用可能佔用一張顯示卡啟動
需要指定環境變數指定顯示卡啟動
如下指定第一張網路卡啟動,下標從0開始

# export CUDA_VISIBLE_DEVICES=0

再啟動需要顯示卡的應用即可

相關文章