Windows下使用ONNXRuntime的GPU進行推理時提示cudnn64_8.dll異常

珠峰上吹泡泡發表於2024-05-08
WindowsGPUDNN

一、問題復現

將模型放到GPU上推理時時發生的異常。

OrtSessionOptionsAppendExecutionProvider_CUDA(session_options, 0);

...

ort_outputs = session_.Run(Ort::RunOptions{ nullptr }, inputNames.data(), &input_tensor_, 1, outNames.data(), outNames.size());

二、解決辦法

需將zlibwapi.dll這個庫放到cuda的bin目錄下。

參考來源

相關文章