摘要:最近看到K8s啟動stable-diffusion的文章,想著在自己開發環境復現一下。沒想到在內網環境還遇到這麼多問題,記錄一下。
本文分享自華為雲社群《內網Docker啟動Stable-Diffusion(AI作畫)》,作者:tsjsdbd 。
最近看到K8s啟動stable-diffusion的文章,想著在自己開發環境復現一下。沒想到在內網環境還遇到這麼多問題,記錄一下。
1. 背景介紹
“AI作畫”就是你給一段文字,AI自動生成影像;或者你給一張影像,AI自動生成另一種風格(比如自拍照=>漫畫風)。這個方向的AI框架以開源的stable-diffusion為代表,著名的Midjourney則是商業版的“AI作畫”。
2. 環境準備
由於“AI作畫”一般是GPU為主,雖然CPU也可以,但是速度相較GPU會慢很多(見下圖)。所以這裡我們準備一個帶GPU的Docker環境。
3. 下載映象
根據文章裡面提到的gpu版映象地址(注:它這個映象其實來自於開源社群:stable-diffusion-webui),直接:
docker pull zibai-registry.cn-hangzhou.cr.aliyuncs.com/gpt/stable-diffusion:v1.gpu
這裡要連外網+非官方倉庫,所以有2個配置需要為docker設定
- 為docker設定代理。
vi /etc/systemd/system/docker.service.d/http-proxy.conf [Service] Environment="HTTPS_PROXY=http://ip:3128"
類似這樣,然後重啟docker
- 將目標倉庫地址設定為docker的信任倉庫。
vi /etc/docker/daemon.json "insecure-registries": ["zibai-registry.cn-hangzhou.cr.aliyuncs.com"],
類似這樣。
4. 啟動Docker容器
由於需要開啟Web頁面,所以我們的docker需要設定埠對映,否則無法透過瀏覽器訪問。
所以docker啟動會帶2個額外的引數:(1)掛載GPU卡。(2)設定埠對映
docker run -it -p 80:7860 --gpus "device=1" zibai-registry.cn-hangzhou.cr.aliyuncs.com/gpt/stable-diffusion:v1.gpu /bin/bash
5. 啟動Stable-diffusion程式
在Docker容器中,按照啟動命令執行:
python3 launch.py --listen
但是會報錯:
這是因為這個映象會聯網下載“模型”。而我的容器無法聯網。所以這裡在容器裡面設定代理:
export proxy=http://10.155.96.xx:3128 export http_proxy=$proxy export https_proxy=${http_proxy}
類似這樣。但是還是下載失敗,報“證照不合法”
關於這個 “huggingface.co”證照不合法的問題。找了一圈解決方案,都無效。
比如,匯出證照,
然後複製到容器中,更新證照列表(2個證照都複製了,1個huggingface.co, 1個Huawei Web Secure):
update-ca-certificates
依然報證照不合法。
即使,我直接訪問 huggingface.co 是OK的
也搜了類似的問題:https://github.com/huggingface/hub-docs/issues/54,但是仍然不行。
Ps:這裡證照問題不知道怎麼解,有思路的同學,給點建議。
6. 修改程式碼,忽略證照校驗
實在沒辦法,搜到的資料說可以在Python請求HTTP的函式里面關閉“證照校驗”。
於是找到錯誤呼叫棧
這個request傳送的函式,有個“忽略證照校驗”的引數。
cat /stable-diffusion-webui/venv/lib/python3.8/site-packages/huggingface_hub/utils/_http.py
(ps:容器裡面沒有vi命令,所以我是在主機上改的。因為任意容器裡面的檔案,都可以在主機Host上看到)
於是我將其改為:
response = requests.request(method=method, url=url, **kwargs)
=》
response = requests.request(method=method, url=url, verify=False, **kwargs)
然後終於,可以順利下載“模型”了
模型下載完後,依然報了個錯:
什麼? localhost 不能訪問,怎麼可能~ 搜到一個類似的問題:https://github.com/microsoft/TaskMatrix/issues/250
說是代理原因,導致訪問本地失敗。
於是加上:
export no_proxy="localhost, 127.0.0.1, ::1"
報錯,看來 ipv6 這個格式不認識。
最終改為:
export no_proxy="localhost, 127.0.0.1"
一切OK。
7. 開啟Stable-diffusion的WEB介面
瀏覽器輸入開發機的地址,即可開啟Web介面(因為我們設定了 80 埠對映)。
試了下效果,一般般,可能是我魔法咒語(Prompt)唸的不太行。
(ps:有個“咒語”參考網站:https://civitai.com 從這裡面下載的模型,生成效果不錯)。
下載後,複製至對應目錄:
docker cp ./majicmixRealistic_v4.safetensors 容器id:/stable-diffusion-webui/models/Stable-diffusion/
然後Web介面選擇新下載的模型就行:
僅供參考~
參考:
《基於容器平臺 ACK 快速搭建 Stable Diffusion》
其中Docker映象對應dockerfile(萬一映象無法下載):
FROM nvidia/cuda:11.3.0-cudnn8-runtime-ubuntu20.04 ENV DEBIAN_FRONTEND noninteractive RUN apt-get update && apt-get install -y --no-install-recommends \ libgl1 libglib2.0-0 git wget python3 python3-venv && \ apt-get clean && \ rm -rf /var/lib/apt/lists/* ADD . /stable-diffusion-webui WORKDIR /stable-diffusion-webui/ RUN ./webui.sh -f can_run_as_root --exit --skip-torch-cuda-test ENV VIRTUAL_ENV=/stable-diffusion-webui/venv ENV PATH="$VIRTUAL_ENV/bin:$PATH" VOLUME /stable-diffusion-webui/models VOLUME /root/.cache CMD ["python3", "launch.py", "--listen"]