Ai qwen大模型本地部署
官網地址
ollama官網：https://ollama.com
Github：https://github.com/ollama/ollama
環境配置
Windows作業系統一臺【小新2019】
windows 下載安裝工具
https://ollama.com/download
下載對應作業系統的安裝包，下載需要開啟魔法，不需要註冊登入就能下載，可根據個人需求登入註冊。
下載工具包完成進行傻瓜式安裝即可
驗證工具安裝成功
查詢模型
需要模型，可以在ollama.com官網搜尋查詢下載的模型，這邊使用阿里開源的通義千問大模型qwen
https://ollama.com/library
安裝模型
https://ollama.com/library?q=qwen
# 搜素模型的引數級 並執行安裝
ollama run qwen2:7b
安裝過程
安裝過程如下，顯示sucess表示成功
測試驗證Ai模型
問幾個問題和寫個指令碼，離線單機都可以，這樣一個本地部署的gpt模型就完成了
系統資源使用
2019年電腦系統使用AI工具時CPU佔用較高，不影響使用正常檢索但速度稍慢，平均一秒鐘出現2個字，基本能滿足使用。
