Windows下使用ONNXRuntime的GPU進行推理時提示cudnn64_8.dll異常

一、問題復現

將模型放到GPU上推理時時發生的異常。

OrtSessionOptionsAppendExecutionProvider_CUDA(session_options, 0);

...

ort_outputs = session_.Run(Ort::RunOptions{ nullptr }, inputNames.data(), &input_tensor_, 1, outNames.data(), outNames.size());

二、解決辦法

需將zlibwapi.dll這個庫放到cuda的bin目錄下。

參考來源