docker 運用 gpu 網路相關配置

Rainflow發表於2024-10-19

example

sudo docker run -it --runtime=nvidia --gpus all --network=host pytorch/pytorch:2.5.0-cuda12.4-cudnn9-runtime

解析

對gpu的支援

--runtime=nvidia --gpus all

網路的支援

--network=host
便於連線宿主機的代理。

參考:
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/sample-workload.html

相關文章