Lsmith - StableDiffusionWebUI アクセラレーション using TensorRT

(StableDiffusionWebUI accelerated using TensorRT)

Created at: 2023-02-04 14:54:49
Language: Python
URL: https://github.com/ddPn08/Lsmith
License: Apache-2.0
Lsmith は高速推論技術を用いた高速な StableDiffusionWebUI であり、TensorRT を使用しています。

ベンチマーク

ベンチマーク

取り付け

Docker (すべてのプラットフォーム、推奨) |易しい

  1. リポジトリのクローン作成
git clone https://github.com/ddPn08/Lsmith.git
cd Lsmith
git submodule update --init --recursive
  1. Docker 作成を使用して起動する
docker-compose up --build

モデルや出力画像などのデータはディレクトリに保存されます。

docker-data

カスタマイズ

ドッカーファイルには2つのタイプがあります。
Dockerfile.full TensorRT プラグインをビルドします。ビルドには数十分かかる場合があります。
Dockerfile.lite Github リリースからビルド済みの TensorRT プラグインをダウンロードします。ビルド時間が大幅に短縮されます。

使用する Dockerfile を変更するには、 in docker-compose.yml の値を変更します。 デフォルトでは、.

services.lsmith.build.dockerfile
Dockerfile.lite

リナックス |難しい

必要条件

  • ノード.js (推奨バージョンは 18)
  • ティッカー
  • パイソン3.10
  • 種
  • クーダ
  • cuDNN < 8.6.0
  • TensorRT 8.5.x
  1. クローン・ルスミス・リポジトリ
git clone https://github.com/ddPn08/Lsmith.git
cd Lsmith
git submodule update --init --recursive
  1. リポジトリディレクトリを入力します。
cd Lsmith
  1. フロントエンドディレクトリに入り、フロントエンドを構築します
cd frontend
pnpm i
pnpm build --out-dir ../dist
  1. LD_PRELOAD変数に libnvinfer_plugin.so へのパスを指定して launch.sh を実行します。
ex.)
bash launch.sh --host 0.0.0.0

ウィンドウズ |難しい

必要条件

  • ノード.js (推奨バージョンは 18)
  • ティッカー
  • パイソン3.10
  • 種
  • クーダ
  • cuDNN < 8.6.0
  • TensorRT 8.5.x
  1. nvidia gpu ドライバーをインストールする
  2. Instal cuda 11.x (公式ガイドはこちら)
  3. インストール cudnn 8.6.0 (公式ガイドはこちら)
  4. tensorrt 8.5.3.1 をインストールします (公式ガイドはこちら)
  5. クローン・ルスミス・リポジトリ
git clone https://github.com/ddPn08/Lsmith.git
cd Lsmith
git submodule update --init --recursive
  1. フロントエンドディレクトリに入り、フロントエンドを構築します
cd frontend
pnpm i
pnpm build --out-dir ../dist
  1. 打ち上げる
    launch-user.bat

使い

起動したら、(例)にアクセスしてWebUIを開きます。

<ip address>:<port number>
http://localhost:8000

まず、既存のディフューザーモデルをテンソルトエンジンに変換する必要があります。

TensorRT エンジンの構築

  1. 「エンジン」タブをクリックします
  2. ハグ顔のディフューザーモデルIDを入力します(例:
    Model ID
    CompVis/stable-diffusion-v1-4
    )
  3. ハギングフェイスアクセストークンを入力します(一部のリポジトリで必要)。 アクセス トークンは、このページから取得または作成できます。
    HuggingFace Access Token
  4. ボタンをクリックして、エンジンの構築を開始します。
    Build
    • エンジンのビルド中にいくつかの警告が表示される場合がありますが、ビルドが失敗しない限り、無視しても問題ありません。
    • ビルドには数十分かかる場合があります。参考までに、RTX15GBでは平均3060分かかります。

画像の生成

  1. ヘッダーのドロップダウンでモデルを選択します。
  2. 「txt2img」タブをクリックします
  3. 「生成」ボタンをクリックします。


日本のAI画像生成コミュニティであるAI絵作り研究会の技術メンバーに感謝します。

About

Author：ddPn08

Watch
Star
Fork