記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

華為雲開發者聯盟發表於2023-05-17
摘要:最近看到K8s啟動stable-diffusion的文章,想著在自己開發環境復現一下。沒想到在內網環境還遇到這麼多問題,記錄一下。

本文分享自華為雲社群《內網Docker啟動Stable-Diffusion(AI作畫)》,作者:tsjsdbd 。

最近看到K8s啟動stable-diffusion的文章,想著在自己開發環境復現一下。沒想到在內網環境還遇到這麼多問題,記錄一下。

1. 背景介紹

“AI作畫”就是你給一段文字,AI自動生成影像;或者你給一張影像,AI自動生成另一種風格(比如自拍照=>漫畫風)。這個方向的AI框架以開源的stable-diffusion為代表,著名的Midjourney則是商業版的“AI作畫”。

2. 環境準備

由於“AI作畫”一般是GPU為主,雖然CPU也可以,但是速度相較GPU會慢很多(見下圖)。所以這裡我們準備一個帶GPU的Docker環境。

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

3. 下載映象

根據文章裡面提到的gpu版映象地址(注:它這個映象其實來自於開源社群:stable-diffusion-webui),直接:

docker pull zibai-registry.cn-hangzhou.cr.aliyuncs.com/gpt/stable-diffusion:v1.gpu

這裡要連外網+非官方倉庫,所以有2個配置需要為docker設定

  • 為docker設定代理。
vi /etc/systemd/system/docker.service.d/http-proxy.conf
[Service]
Environment="HTTPS_PROXY=http://ip:3128"

類似這樣,然後重啟docker

  • 將目標倉庫地址設定為docker的信任倉庫。
vi /etc/docker/daemon.json
"insecure-registries": ["zibai-registry.cn-hangzhou.cr.aliyuncs.com"],

類似這樣。

4. 啟動Docker容器

由於需要開啟Web頁面,所以我們的docker需要設定埠對映,否則無法透過瀏覽器訪問。

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

所以docker啟動會帶2個額外的引數:(1)掛載GPU卡。(2)設定埠對映

docker run -it -p 80:7860 --gpus "device=1" zibai-registry.cn-hangzhou.cr.aliyuncs.com/gpt/stable-diffusion:v1.gpu /bin/bash

5. 啟動Stable-diffusion程式

在Docker容器中,按照啟動命令執行:

python3 launch.py --listen

但是會報錯:

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

這是因為這個映象會聯網下載“模型”。而我的容器無法聯網。所以這裡在容器裡面設定代理:

export proxy=http://10.155.96.xx:3128
export http_proxy=$proxy
export https_proxy=${http_proxy}

類似這樣。但是還是下載失敗,報“證照不合法”

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

關於這個 “huggingface.co”證照不合法的問題。找了一圈解決方案,都無效。

比如,匯出證照,

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

然後複製到容器中,更新證照列表(2個證照都複製了,1個huggingface.co, 1個Huawei Web Secure):

update-ca-certificates

依然報證照不合法。

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

即使,我直接訪問 huggingface.co 是OK的

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

也搜了類似的問題:https://github.com/huggingface/hub-docs/issues/54,但是仍然不行。

Ps:這裡證照問題不知道怎麼解,有思路的同學,給點建議。

6. 修改程式碼,忽略證照校驗

實在沒辦法,搜到的資料說可以在Python請求HTTP的函式里面關閉“證照校驗”。

於是找到錯誤呼叫棧

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

這個request傳送的函式,有個“忽略證照校驗”的引數。

cat /stable-diffusion-webui/venv/lib/python3.8/site-packages/huggingface_hub/utils/_http.py

(ps:容器裡面沒有vi命令,所以我是在主機上改的。因為任意容器裡面的檔案,都可以在主機Host上看到)

於是我將其改為:

response = requests.request(method=method, url=url, **kwargs)

=》

response = requests.request(method=method, url=url, verify=False, **kwargs)

然後終於,可以順利下載“模型”了

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

模型下載完後,依然報了個錯:

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

什麼? localhost 不能訪問,怎麼可能~ 搜到一個類似的問題:https://github.com/microsoft/TaskMatrix/issues/250

說是代理原因,導致訪問本地失敗。

於是加上:

export no_proxy="localhost, 127.0.0.1, ::1"

報錯,看來 ipv6 這個格式不認識。

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

最終改為:

export no_proxy="localhost, 127.0.0.1"

一切OK。

7. 開啟Stable-diffusion的WEB介面

瀏覽器輸入開發機的地址,即可開啟Web介面(因為我們設定了 80 埠對映)。

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

試了下效果,一般般,可能是我魔法咒語(Prompt)唸的不太行。

(ps:有個“咒語”參考網站:https://civitai.com 從這裡面下載的模型,生成效果不錯)。

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

下載後,複製至對應目錄:

docker cp ./majicmixRealistic_v4.safetensors 容器id:/stable-diffusion-webui/models/Stable-diffusion/

然後Web介面選擇新下載的模型就行:

記錄內網Docker啟動Stable-Diffusion遇到的幾個坑

僅供參考~

參考:

基於容器平臺 ACK 快速搭建 Stable Diffusion

其中Docker映象對應dockerfile(萬一映象無法下載):

FROM nvidia/cuda:11.3.0-cudnn8-runtime-ubuntu20.04
ENV DEBIAN_FRONTEND noninteractive
RUN apt-get update && apt-get install -y --no-install-recommends \
    libgl1 libglib2.0-0 git wget python3 python3-venv && \
    apt-get clean && \
    rm -rf /var/lib/apt/lists/*

ADD . /stable-diffusion-webui
WORKDIR /stable-diffusion-webui/
RUN ./webui.sh -f can_run_as_root --exit --skip-torch-cuda-test

ENV VIRTUAL_ENV=/stable-diffusion-webui/venv
ENV PATH="$VIRTUAL_ENV/bin:$PATH"

VOLUME /stable-diffusion-webui/models
VOLUME /root/.cache

CMD ["python3", "launch.py", "--listen"]

 

點選關注,第一時間瞭解華為雲新鮮技術~

相關文章