ollama AMD rx6750 gre 指南

Smalldy發表於2024-09-29

背景

紅了!我紅溫了!
本來ollama玩的好好的。正在測試幾百兆的小大模型是否能夠充當翻譯外掛的API介面,突然發現ollama啟動的時候用的居然是cpu!
作為高貴的AMD使用者,遇到這樣的事情自然是波瀾不驚,立馬尋找解決方案。
然後發現我的顯示卡不在ollama支援範圍內。

本以為簡單的配置一下就可以了,這從網上一查,我滴龜龜!

還得想辦法

https://www.bilibili.com/read/cv34059681/?jump_opus=1
誒!
你還別說,B友們真是神通廣大。
那就編譯唄。

PS:這裡雖然一帶而過,其中編譯環節每次遇到錯誤都會耗費大把的時間嘗試去搜尋,修復對應的錯誤,安裝解除安裝各種環境,實在是煩人!

開編

不得不說,ollama windows平臺編譯寫的那叫一個粗糙。在哪執行啥操作也不說,直接給三個命令你就調去吧。
它這個文件首先會讓你安裝一些東西,你先按我的來。
首先開啟你的vs2022安裝程式,把cmake元件安裝上哈。
然後裝一個mingw,bin配置到PATH環境變數裡。
接著開啟你的VS2022開發環境cmd,去這裡邊執行它給的命令,不然你就撓頭吧。

編譯時間挺長的。需要耐心等待

編譯完了記得替換 ROCmLibs

相關文章