Qwen2-VL-2B-Instruct 量化,使用更少的視訊記憶體執行

universe_king發表於2024-11-19

首先在魔搭社群搜尋了一下 Qwen2-VL 相關的:https://www.modelscope.cn/models?name=Qwen2-VL

然後發現了這些 2B 的量化版本

圖片.png

首選 int4 檢視:https://www.modelscope.cn/models/Qwen/Qwen2-VL-2B-Instruct-GP...

相關文章