Bitget App
Trade smarter
行情交易合约跟单策略理财Web3

如何在功能较弱的PC上运行强大的Flux AI图像生成器

币界网2024/08/12 23:55
作者:币界网
币界网报道:

当Flux几天前突然出现时,它很快就赢得了开源图像生成器皇冠上的明珠的声誉。它与Midjourney的美学能力相匹配,同时在快速理解和文本生成方面绝对压倒了它。捕获?你需要一个拥有超过24GB VRAM(甚至更多)的强大GPU才能让它运行。这比大多数游戏设备都要强大,更不用说你的普通工作笔记本电脑了。

但是,人工智能社区从不放弃挑战,他们卷起集体袖子开始工作。通过量化的魔力——一个压缩模型数据的花哨术语——他们设法将Flux缩小到更易于管理的大小,而不会牺牲太多的艺术魔力。

让我们把它分解一下:最初的Flux型号使用了全32位精度(FP32),这就像驾驶一级方程式赛车去杂货店——对大多数人来说都是多余的。第一轮优化为我们带来了FP16和FP8版本,每个版本都以一点点的准确性换取了效率的大幅提高。FP8版本已经改变了游戏规则,让拥有6GB GPU(想想RTX 2060)的人加入了这场盛宴。

为此,您需要禁用系统内存回调以实现稳定扩散,这样您的GPU就可以将其部分工作从内部VRAM卸载到系统RAM。这避免了臭名昭著的OOM(内存不足)错误,尽管其运行速度要慢得多。要禁用此选项,请按照Nvidia的教程进行操作。

但要戴上帽子,因为它会变得更好。

人工智能世界的真实MVP进一步突破了界限,发布了4位量化模型。这些坏男孩使用一种叫做“正常点”(NP)量化的东西,它提供了一个质量和速度的最佳点,让你的土豆电脑感觉像是得到了涡轮增压。NP量化不会像FP量化那样降低质量,因此一般来说,运行此模型可以在高速下获得很好的结果,只需要很少的资源。

这几乎好得令人难以置信,但这是真的。

在fp8和np4中使用Flux Dec获得的结果。同样的提示,不同的种子。

如何在低端GPU上运行Flux

那么,你实际上是如何运行这个简化版本的Flux的呢?首先,你需要一个像SwarmUI、ComfyUI或Forge这样的界面。我们喜欢ComfyUI的多功能性,但在我们的测试中,Forge的速度比其他界面提高了约10-20%,所以这就是我们在这里使用的。

前往Forge GitHub仓库(https://github.com/lllyasviel/stable-diffusion-webui-forge)并下载一键安装包。它是开源的,经过社区审查,所以这里没有粗略的业务。

对于NP4 Flux型号本身,Civit AI是您的一站式服务。你有两种口味可供选择:Schnell(速度)和Dex(质量)。两者都可以从这个页面下载。

一旦你下载了所有内容,就到了安装时间:

    解压缩Forge文件并打开Forge文件夹。运行update.bat以获取所有依赖项。启动run.bat以完成设置。

现在,将这些闪亮的新Flux模型放入Forge安装中的webuimodelsStable扩散文件夹中。刷新Forge web界面(如果你感觉老派,可以重新启动),然后砰的一声——你在做生意。

专业提示:要真正从复活的装备中挤出每一滴性能,请降低分辨率。与其选择全SDXL(1024x1024)分辨率,不如尝试更适中的SD1.5尺寸(768x768、512x768等)。你总是可以稍后升级,并使用Adetailer来处理那些脆脆的细节。

让我们谈谈数字:在配备6GB VRAM的RTX 2060上,Flux Schnell在NP4模式下可以在大约30秒内生成512x768的图像,而FP8版本需要107秒。想做大吗?用高分辨率修复将那个坏男孩升级到1536x1024大约需要五分钟。

想在不破坏GPU的情况下做大吗?更好的选择是从SD1.5分辨率的Flux Schnell开始,然后通过img2img发送该创建。使用低降噪强度的标准稳定扩散模型(SD1.5或SDXL)进行升级。整个过程大约需要50秒,与MidJourney在缓慢的一天中的输出相当。您将在不熔化图形卡的情况下获得令人印象深刻的大规模结果。

真正的踢球者?据报道,一些疯狂的家伙让Flux Schnell NP4在GTX 1060上运行,VRAM为3GB,Flux Dev每次迭代需要7.90秒。我们谈论的是一个几乎依赖生命支持的GPU,它正在这里产生尖端的人工智能艺术。对于几乎符合养老金条件的硬件来说,这并不算太破旧。

0

免责声明:文章中的所有内容仅代表作者的观点,与本平台无关。用户不应以本文作为投资决策的参考。

PoolX:质押赚新币
CEC、QTLX、GDV等热门新币火热进行中!
立即质押!

你也可能喜欢

1000CATUSDT 现已上线合约交易

Bitget 已于2024年9月16日(UTC+8)上线 1000CATUSDT 合约交易,最大杠杆为20倍。 欢迎通过我们的官方网站或 Bitget APP 开始合约交易。 1000CAT U本位永续合约: 合约参数 详情 上线时间 2024年9月16日 23:10(UTC+8) 合约标的 1000CAT 结算资产 USDT 最小变动价位 0.00001 最高杠杆倍数 20x 资金费用结算频率 每八个小时 交易时间 7*24 根据市场风险状况,Bitget可能调整包括最小变动价格、最高杠杆倍数、维持保证金率等重要合约参数; 【合约】 Bitget 的合约包括:U本位合约、币本位合约和 US

Bitget Announcement2024/09/16 15:11