【Stable Diffusion加速插件】一秒兩張圖!提前體驗5090的速度!TensorRT讓你的顯卡速度提升4倍!

AI小王子
1067粉絲
1160 次觀看·2023年11月24日
Geforce Experience安装地址:https://www.nvidia.cn/geforce/geforce-experience/
TensorRT扩展github:https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT/tree/main
扩展+Geforce网盘链接:https://pan.quark.cn/s/ad9f5bb35df9
创作不易但您的 “点赞订阅” 可以成为我的“动力”!
快来我的城堡当勇士吧!解锁更多AIGC资源!
https://pd.qq.com/s/dbpmuhh0f
配置不好的推荐大家使用云服务器: http://account.qingjiaocloud.com/signin?inviteCode=CDT3DX1G
【全网最快最稳性价比最高的VPN购买网站推荐】 https://lx8.biz/#/register?code=sesonABV
点击上面链接可以获得小王子专属85折优惠(优惠码:xwz)
【Midjourney, ChatGPT等 超全AI账号合租/独享购买平台】https://nf.video/RpdT9 专属优惠码:xwz 可享有9.5折的优惠!
00:00 前提要求
00:45 更新驱动
01:23 TensorRT 安装
02:07 快速生成引擎
03:22 调用引擎
04:20 测试对比
05:47 静态
06:45 动态
08:14 多引擎配置要求
10:05 高阶用法
hello大家好
我是AI小王子
就在剛剛
Tensor RT終於可以在stable diffusion上使用了
一個可以讓你渲染速度提升3-4倍
的插件
大家趕快跟着我的課程搶先體驗一下
這個是我使用Tensor RT出100張圖的
一個速度
只需要1分12秒啊
算下來平均一張圖只需要0.72秒
趕緊點贊收藏本期課程
以免錯過
首先
我們先看一下此插件在配置上的要求
顯卡必須是英偉達顯卡
就是我們說的n卡
需要擁有8GB或更高的顯存
內存需要大於等於16G
驅動需要更新到5三七點五八
或更高的版本
放心啊這個我會教大家如何更新呢
如果你這些都達標
那麼恭喜你
你準備起飛了
首先我們更新一下驅動
左下角開始鍵啊
搜索g force GEFORC
如果你這邊沒有這個軟件
也不用擔心啊
我們到這個網址
這個網址我還是會放到我視頻簡介
打開之後我們點擊立即下載
然後下載到你本地就好了
下載好之後雙擊打開這個軟件
大家如果是第一次使用這個軟件的話
你需要註冊一個賬號
註冊好賬號進入就OK了
如果你不是最新版
他會直接跳出來讓你更新
如果沒有跳出來
我們點擊左上角的驅動程序
點擊檢查更新文件
OK我
因爲我這邊已經是最新的了
如果你不是最新的話
就更新到最新版本
更新完之後這個就可以關閉掉了
之後我們再打開Tensor RT的
get up頁面
點擊這個code
然後我們複製它的get路徑
點擊這邊啊
然後回到stable diffution
找到從網址安裝
然後把剛剛複製的get路徑
粘貼到這邊
然後這邊下面還要填個東西啊
不要立即安裝
因爲這邊有個分支
你看這邊有個分支叫做lore v two
這個是專門去安裝你的lore引擎的
只需要在這邊輸入一個lore
然後下劃線V2
然後再點擊安裝即可
第一次安裝可能需要一定時間
因爲它要下載一個EGB多的文件
我們只需要確保我們使用普通的網絡
並且保證它暢通就好了
下載速度還是比較快的
大概一分鐘左右
安裝好後呢
我們點擊reload UI或者在這邊已安裝
點擊應用更改並重啓
再重啓的時候
大家就會看到這個文件
Tensor RT在上面出現
再進一步瞭解如何使用前呢
要先告訴大家
這個插件可以兼容1.52.1和XL大模型
但是此引擎在調用時啊
需要你單獨安裝對應的大模型引擎
每個模型安裝一次即可
我們可以安裝一些比較常用的大模型
比如說
我比較喜歡Saber realistic這個模型
我就先在左上角確定好
我選擇了這個模型
然後先跑一遍簡單流程
什麼都不用改啊
這些裏邊的預設我一會兒會教大家的
點擊導出默認情
點擊後呢
我們可以看到上面會有一個no o n n x file
放他
讓你去看一下你終端的一個進程
這個不用
擔心啊
只是跟你講一下
他每次點擊都會出的
只要我們確定這個輸出
這下邊啊
他這個進度條在走
在讀秒
然後這邊沒有報其他錯誤
這個錯誤大家可以忽略啊
這個是之前我測試的一個錯誤
已經解決了
看最底下這邊
這邊只要寫上disabling attention
optimization就OK
一般呢會在2-10分鐘左右完成
我們等待即可
OK當我們看到終端顯示Tensor RT
engine has been saved to disc
或者頁面這邊輸出
下面寫着export is successfully
就代表你安裝引擎成功
那麼這個模型具體安裝到了哪裏呢
我教大家啊
首先到我們的根目錄
然後找到Models
它是安裝在模型這邊的
然後找到Unite
TRT就是Tensor RT的縮寫啊
在這邊
可以看到我們所有安裝過的引擎
如果哪個我們不需要的話
我們就在這邊直接刪掉就好了
那麼安裝好後如何去調用它呢
我們到這邊的設置啊
找到我們的用戶界面
然後在下邊的快捷設置列表下邊啊
輸入SD unit
就是這個SD unit
選中它之後
當這個框框在這邊出現
回到我們這邊
點擊保存設置
然後再重載WY
再一次你的WY打開的時候
就可以在右上角看到SD Unite這個功能
像了
假如說剛剛安裝好了suburbillistic
我們到文成圖這邊
SD Unite我們選擇
我們先刷新一下
我們就可以看到Cyber realistic在這邊了
如果想使用它
就在這邊選擇模型對應的引擎
確保這兩個是一樣的啊
然後在這邊出圖就OK了
那麼到了這一步呢
你就可以正常使用了
平時怎麼做圖你就怎麼操作就好
不過在使用前
有幾個注意事項大家需要知道
如果你像我一樣
剛剛使用的是默認的引擎
預設還有一個寬高比的一個預值
比如說我們剛做了SUB relistic
看到這邊有個最小值和最大值
所以在你升圖的時候啊
你生出來的圖片
必須是在512到768之間的
並且啊
這個數值啊
必須是可以被64整除的一個數字
比如說512
你弄個522行不行啊
不行啊他肯定是會報錯的
因爲它必須是64的倍數
比如512加64=578578*578
可不可以
可以我給大家舉個例子啊
文程圖這邊我們先就one go試一下啊
比如說512乘768行不行
可以的完全沒有問題
大家要注意一個什麼事情呢
第一次安裝完引擎的第一次加載
速度會稍微有些慢
大家一看這邊11.7
以爲我在騙大家對吧
那麼我再點擊生成
看一下它的效果啊
第二次用時只有2.3秒了
不要按第一次的時間來做參考
接下來我們看一下剛剛講的
523就不是64的倍數
我們去點擊生成
這邊是會報錯的啊
你看這邊會報錯的
所以大家在使用的時候呀
一定要切記啊
先確保是你的範圍內
再確保它是64的倍數
如果這些你都能保證
那就沒有問題了
我們再看一下
不使用tensile RT
出來一張圖
一個速度看到沒有
如果不使用Tensor t
出來的圖片是7.6秒
剛剛是2.9秒一張圖
對不對
同樣的比例啊
所以大家能看出來它的速度區別嗎
OK
那麼接下來再跟大家講一下
這邊預設的這個不同之處啊
這些預設的區別主要在於尺寸
就是你的框高比
還有你的單批數量
最後這個static和Dynamic這兩個單詞啊
大家一定要記住
一個是靜態
static就叫做靜態
一個是Dynamic叫做動態
它們的不同之處在哪裏呢
使用靜態引擎出圖啊
我們可以看到選擇它之後
這邊會有高級設置
我們打開看一下
所有的參數都是固定的
比如說這邊你的最優單批數量
你設置成什麼
你在出圖的時候就必須是什麼
就代表
如果你在這邊單批數量設置的是3
那這邊文聲圖呢
單批數量也必須是3
不是3他一定會報錯的
在靜態下
最優高度和最優寬度也是固定的
比如說你在這邊輸入768*768
那你在調用這個模型引擎的時候
觸圖也必須是768*768
然後這個最優提示詞原技術
這個就是最好是有多少個提示詞啊
這個控制的不是那麼死啊
並不是說你必須是75個
這個是靜態
我們再說一下動態啊
動態它有個好
就是在靈活度上有一個更好的對比
這個就更像設置一個範圍
我們看靜態的時候
他只能選擇最優高度
最優寬度
但是動態呢
他就可以選擇最小
還有一個最大
然後還有一個
最優
比如說在訓練的時候
最小單批數量是一
然後最大單批數量調成16
那就代表你在出圖的時候
只要單批數量是保持在1-16之間
你就完全沒有問題啊
然後最優單批數量
它是一個最優值
大家可以在這邊選擇一個
經常會使用的值啊
比如說你單批數量比較喜歡調成4個
或者比較普通
就是一般我們調成一個就OK了
我們默認爲一
根據自己的喜好啊
然後最小高度和最大高度
最小高度是256
最大高度你可以拉的很高
2048這樣子
然後最優高度
選一個自己經常使用的寬高比的高度
比如說768
這樣會幫助你加速的更快
然後最小寬度也是一個道理啊
也可以大家調成一個這個範圍
然後中間選擇一個最優指比較常用的
然後剩下就是最小提示詞原計數了
然後可以弄一個很大的預指
如果大家寫提示詞
不像寫論文那麼長的話
其實沒有必要拉這麼高啊
大家這邊自己去決定OK
然後這邊選擇好之後
我們再導出引擎
他就會導出一個動態引擎
那麼其實大家聽完我這一頓分析
感覺啊
那肯定選擇動態引擎了對不對
但是告訴大家
如果想要更高效的獲得速度提升
在同參數下
靜態的速度是超過動態的
並且顯存佔用率也會更低一些
那麼這個時候就可能有人說
哎我又想要超快的速度
又不想受侷限行不行
我的回答是完全沒有問題
這裏呢每個大模型下可以有多個
引擎
比如
找到一個自己幾乎每天都會用到的
這個大模型啊
然後生成多個常用的尺寸
比如說你多生成幾個常用的靜態尺寸
像是512*768768*512啊
1024*1024等
這個自己去決定啊
生成靜態引擎它是沒有限制的
不過動態呢
它有一個軟上限
就是一個模型下
只能生成兩個動態引擎
但是這個動態引擎呢
有一個突破點可以改
比如說我選擇這個動態
在這邊如果你生成了兩個OK
想再生成第三個
設置完之後
他這邊後臺會告訴你一個
就是說已經到達上限了
無法生成
我們就點擊強制重新構建
當你想生成第三個的時候
一定要勾選這個強制重新構建就OK了
或者你把不要的給他刪掉
再重新構建一下也可以
當我們生成多個動態引擎
或者靜態引擎的時候啊
我們可以看到我們這個根目錄
這邊會顯示的對不對
但是在上面調取SD Unite的時候呢
它不會顯示
等於說他把所有動態和靜態
都融合到一個模型裏邊去了
大家不用去擔心
當你去生圖的時候
比如說我這個Rev animated
在哪裏可以看呢
我們拉到底下
找到可用的Tensor RT引擎配置
我們先刷新一下
然後找到我們這個模型Rev animated
看一看啊
我這邊生成了一個動態512乘768
然後又生成了一個動態768-1024
又生成了一個靜態768*768
靜態是1536*15
36一共四個引擎啊
它都完美地融入到了這個大模型下
當我們在文聲圖生圖的時候
比如說我們在這邊輸入的768乘768
因爲我們已經有個靜態的768
他會自動調取這個靜態
優先調取靜態
如果說你這邊是578*768
他一看哦
裏邊沒有靜態
那這個引擎會自動調用它的動態引
大家可以理解吧
最後
再跟大家分享一個高階用法技巧啊
在調用Tensor RT時
想使用高分辨的修復
需要在s t Uni下
對應的模型下
生成至少兩個靜態引擎
因爲之前在高清放大那節課
跟大家講過
高分辨類修復時
在原有的圖片基礎上
加上對應的像素數量
比如放大兩倍
就代表會在每一塊像素基礎上
再加一塊像素
本質上呢
可以理解爲生成兩次圖片
所以在基本的靜態標準達標時啊
需要再生成一個放大後的靜態引擎
比如說我這邊常用的是768*768
我經常喜歡放大了兩倍
那就代表是什麼呀
我需要再生成一個1536乘1536的靜態引擎
同理啊
給大家出道題啊
如果我這邊使用512乘512
我就想讓這張圖做高分辨率修復
我需要再生成一個多大的靜態引擎呢
大家可以在評論區
或者彈幕回覆我一下啊
那麼這是我給大家留了一道題
接下來我們看一下最後的這個Tensor RT
羅瓦這個功能
是的它可以給羅瓦加速
同時融入到大模型內
與其說加速啊
我想稱它爲在出圖的時候
可以更好地兼容大模型引擎
這裏和大模型引擎生成是同理啊
這裏的Lore融合
只會和你當前選擇好的大模型綁定
做融合
一個大模型可以分批融合多個log
操作步驟呢
和前面是完全一樣
這邊只要選擇好模型
什麼都不用管
直接點擊轉換到XRT
生成之後還是一樣步驟
只要看到下邊有進度條在走
走完之後出現xport is successfully
就代表你安裝成功了
然後再點擊這個邊的刷新鍵
就可以看到你安裝後的一個引擎名字
在這邊
這裏融合完呢
上方的Unite
還是隻會顯示大模型的名字
不要擔心爲什麼沒有出現
它已經自動融合到大模型裏邊了
OK如果你看到這裏
那麼恭喜你
已經掌握了Tensor RT插件的所有功能
目前它暫不支持一些插件
比如Controlnight
對我說的只是暫時的
相信在不久的將來啊
可能也就兩到三個月時間
它會再一次有更大的突破和更新
像其他ad teller啊
tell diffusion
VAE這些都測試過
都是可以使用的
大家在使用的時候呢
如果發現
哪些插件不能兼容到這個TRT
大家可以把這些插件的名字
放到評論區裏邊
再過兩到三個月
我們再看一下
它幾乎應該是可以兼容到
所有的功能上面
OK那麼今天的視頻就先講到這裏
希望獲得大家的一鍵三連支持
follow me讓你輕鬆掌控AI
