多卡4090在啟動服務時如果不指定顯示卡則多個應用可能佔用一張顯示卡啟動 需要指定環境變數指定顯示卡啟動 如下指定第一張網路卡啟動,下標從0開始
# export CUDA_VISIBLE_DEVICES=0
再啟動需要顯示卡的應用即可