HunggingFace的映象加速站

酱_油發表於2024-05-01
  1. 方法一:使用huggingface 官方提供的 **huggingface-cli** 命令列工具。
    (1) 安裝依賴
    pip install -U huggingface_hub


(2) 基本命令示例:

export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download --resume-download bigscience/bloom-560m --local-dir bloom-560m


(3) 下載需要登入的模型(Gated Model)請新增--token hf_***引數,其中hf_***access token,請在huggingface官網這裡獲取。示例:

huggingface-cli download --token hf_ --resume-download meta-llama/Llama-2-7b-hf --local-dir Llama-2-7b-hf 

  1. 方法二:使用url直接下載時,將 huggingface.co 直接替換為本站域名hf-mirror.com。使用瀏覽器或者 wget -c、curl -L、aria2c 等命令列方式即可。
    下載需登入的模型需命令列新增 --header hf_*** 引數,token 獲取具體參見上文。
  1. 方法三:(非侵入式,能解決大部分情況)huggingface 提供的包會獲取系統變數,所以可以使用透過設定變數來解決。
    HF_ENDPOINT=https://hf-mirror.com python your_script.py 

不過有些資料集有內建的下載指令碼,那就需要手動改一下指令碼內的地址來實現了

相關文章