直达「 通往AGI之路 」飞书知识库 →
首页/问答列表/问答详情

Mac部署stable diffusion

回答

在 Mac 上部署 Stable Diffusion 存在一定限制，功能可能不全且出错率偏高，严重影响使用体验。个人建议升级设备或者采用云服务器玩耍。

如果您仍想在 Mac 上部署，可以参考以下步骤：

  1. 电脑硬件要求：
    • 系统：无明确针对 Mac 的特定系统要求。
    • 显卡：未明确针对 Mac 的显卡要求。
    • 硬盘：留有足够的空间，最低 100G 起步（包括模型）。
  2. 环境安装：
    • 未提供 Mac 系统下的具体环境安装步骤。

由于 Mac 系统的特殊性，更推荐您采用云端部署的方式，相关教程可参考：https://qa3dhma45mc.feishu.cn/wiki/A6WYw1Nm0ikGplkuO9Ecwomqnnd

内容由 AI 大模型生成，请仔细甄别（powered by aily）

参考资料

1、安装部署ComfyUI 副本

今天主要介绍StableDiffusion的另一种UIComfyUI的实际操作方法，完全从0开始安装。以及如何在ComfyUI中使用SDXL模型，希望通过本文能够降低大家对StableDiffusion ComfyUI的学习成本，更快速的体验到AIGC图像生成的魅力。[heading1]一、电脑硬件要求[content]1.系统：Windows7以上（就不要为难XP老师傅了）。2.显卡要求：NVDIA独立显卡且显存至少4G起步。3.硬盘留有足够的空间，最低100G起步（包括模型）。4.注：mac系统，AMD显卡，低显卡的情况也可以安装使用，功能不全，出错率偏高，严重影响使用体验个人建议升级设备或者采用云服务器玩耍。5.下载并更新Nvidia显卡驱动下载地址https://www.nvidia.cn/ geforce/drivers/[heading1]二、下载并安装所需要环境[content]依次下载并安装python、Git、VSCode，安装过程中一直点击勾选对应选项，一直下一步。1.安装Python https://www.python.org/downloads/release/python-3119/file:python-3.11.9-amd64.exe安装的时候选中“将Python添加到系统变量”1.安装VSCode https://code.visualstudio.com/Downloadfile:VSCodeUserSetup-x64-1.90.0.exe3、安装Git https://git-scm.com/download/winfile:3-Git-2.39.2-64-bit.exe4、安装CUDAhttps://developer.nvidia.com/cuda-12-2-0-download-archive?target_os=Windows&target_arch=x86_64&target_version=11&target_type=exe_networkfile:cuda_12.2.0_536.25_windows.exe

1、环境安装、ComfyUI本体安装 副本

本文主要介绍StableDiffusion的另一种UIComfyUI的实际操作方法，以及如何在ComfyUI中使用SDXL模型，希望通过本文能够降低大家对StableDiffusion ComfyUI的学习成本，更快速的体验到AIGC图像生成的魅力。[heading1]一、电脑硬件要求[content]1.系统：Windows7以上（就不要为难XP老师傅了）。2.显卡要求：NVDIA独立显卡且显存至少4G起步。3.硬盘留有足够的空间，最低100G起步（包括模型）。注：mac系统，AMD显卡，低显卡的情况也可以安装使用，功能不全，出错率偏高，严重影响使用体验个人建议升级设备或者采用云服务器玩耍。

0. SD的安装

①系统需为Win10、Win11②Win系统查看配置③配置达标跳转至对应安装教程页[1.Win系统SD安装](https://qa3dhma45mc.feishu.cn/wiki/D5nawAs1fivF4ykx88ucRIYwn1d)④配置不够可选择云端部署（Mac也推荐云端部署）[3.SD云端部署](https://qa3dhma45mc.feishu.cn/wiki/A6WYw1Nm0ikGplkuO9Ecwomqnnd)⑤备选：SD好难，先试试简单的无界AI：[图像类-无界AI使用教程](https://qa3dhma45mc.feishu.cn/wiki/LRdOw75tQiN3wAkU43ucwb5Ondd)[heading2]Win系统查看配置[content]Win10和Win11一样没区别[heading3]查看电脑系统：[content]在桌面上找到“我的电脑”一鼠标右键点击一一点击"属性”一一查看Windows规格[heading3]查看电脑配置：[content]这里是检查自己的电脑配置能不能带动SD(Stable Diffusion)需要满足3个要求（推荐）:电脑运行内存8GB以上是英伟达(NVIDA)的显卡显卡内存4GB以上①打开任务管理器:同时按下ctrl+shift+esc②查看电脑运行内存8GB运行内存可以勉强运行SD推荐16GB以上运行内存③查看电脑显卡内存（显存）4GB显存可运行SD，推荐8GB以上显存

其他人在问
Mac有Chat GPT客户端吗
Mac 有 Chat GPT 客户端，以下是相关信息： 下载地址： persistent.oaistatic.com/sidekick/public/ChatGPT_Desktop_public_latest.dmg 或者：https://waytoagi.feishu.cn/file/I58PbrukKoXYdVxEF0EcY9SXnBf 下载不了可以用百度云链接：https://pan.baidu.com/s/1jFZ5uBClqP0T1IOKQLW5HQ?pwd=hmbe 提取码：hmbe 或者：https://persistenNt.oaistatic.com/sidekick/public/ChatGPT_Desktop_public_latest.dmg 使用条件： 需要苹果芯片的 mac。 内测用户（非内测用户使用指南： ）。 macOS 12.6.8 M1 芯片不兼容，系统版本 MacOS 14 及以上。 提前下载使用 ChatGPT Mac 桌面客户端的办法（需要有 ChatGPT 付费账号，以及网络技术基础）： 以 ProxyMan 为例： 登录一次以触发 API 调用。 对 ChatGPT 的 App 启用 SSL 代理（需要配置好 ProxyMan 证书）。 再登录一次以触发 API 调用。 然后右键点击 ab.chatgpt.com/v1/initialize 选择本地映射，并将所有的 false 替换为 true。 再尝试一次，你就应该能顺利登录了。 详细版图文教程：
2024-11-01
MacBook如何做一些AIGC软件布置
很抱歉，目前知识库中没有关于“MacBook 如何做一些 AIGC 软件布置”的相关内容。但一般来说，您可以通过以下步骤尝试在 MacBook 上进行 AIGC 软件的布置： 1. 确定您想要安装的 AIGC 软件，并在其官方网站上查找适用于 macOS 系统的版本。 2. 检查您的 MacBook 系统版本是否满足软件的要求，如果不满足，可能需要进行系统更新。 3. 下载软件安装包，通常可以在官方网站上找到下载链接。 4. 打开下载的安装包，按照安装向导的指示进行操作，可能需要您同意许可协议、选择安装位置等。 5. 安装完成后，在应用程序文件夹中找到并打开该软件，进行必要的设置和配置。 请注意，不同的 AIGC 软件可能会有略微不同的安装和配置步骤，具体还需根据您选择的软件来操作。
2024-09-25
stable diffusion可以用macbook 13来运行吗？配置够吗
Stable Diffusion（简称“SD”）的运行对电脑配置有一定要求。对于 Windows 系统： 显卡：必须是 NVIDIA（俗称 N 卡）。 专用 GPU 内存：4GB 勉强可以跑动 SD，出图时间较长；6GB 出一张图时间为 20 50 秒，大部分功能可用；8GB 5 20 秒出一张图，所有功能基本开放。 电脑运行内存：8GB 以上。 电脑系统：Win10 或者 Win11。 对于 Mac 系统，可以查看以下视频进行一键安装：https://www.bilibili.com/video/BV1Kh4y1W7Vg/?spm_id_from=333.788&vd_source=6f836e2ab17b1bdb4fc5ea98f38df761 但具体 MacBook 13 是否能运行及配置是否足够，还需根据上述标准进行对照检查。
2024-09-16
mac怎么使用Chat GPT
以下是在 Mac 上使用 Chat GPT 的方法： 1. 下载地址： persistent.oaistatic.com/sidekick/public/ChatGPT_Desktop_public_latest.dmg 下载不了可以用百度云链接：https://pan.baidu.com/s/1jFZ5uBClqP0T1IOKQLW5HQ?pwd=hmbe 提取码：hmbe 或者：https://persistenNt.oaistatic.com/sidekick/public/ChatGPT_Desktop_public_latest.dmg 2. 使用条件： 需要苹果芯片的 mac 内测用户（非内测用户使用指南： ） macOS 12.6.8 M1 芯片不兼容，系统版本 MacOS 14 及以上 3. 操作步骤（需要有 ChatGPT 付费账号，以及网络技术基础）： 使用 Proxyman、Charles 或您喜欢的网络代理来进行以下操作：以 ProxyMan 为例 登录一次以触发 API 调用 对 ChatGPT 的 App 启用 SSL 代理（需要配置好 ProxyMan 证书） 再登录一次以触发 API 调用 然后右键点击 ab.chatgpt.com/v1/initialize 选择本地映射，并将所有的 false 替换为 true 再尝试一次，您就应该能顺利登录了 详细版图文教程： 官方介绍：https://openai.com/index/hellogpt4o/ 如何访问 GPT4、GPT4 Turbo 和 GPT4o？https://help.openai.com/en/articles/7102672howcaniaccessgpt4gpt4turboandgpt4o Sam 的博文：https://blog.samaltman.com/gpt4o 音频主管 Alexis Conneau：https://twitter.com/alex_conneau
2024-09-04
MAC笔记本电脑，有哪个网址可以下载SD的安装包？或者说MAC电脑可以使用SD吗
对于 MAC 电脑安装 Stable Diffusion（SD），推荐云端部署，相关链接为：https://qa3dhma45mc.feishu.cn/wiki/A6WYw1Nm0ikGplkuO9Ecwomqnnd 。 如果您选择本地部署，以下是一些相关步骤供您参考： 1. 进入安装页面，等待安装好。 2. 勾选如下项目，要确保包含 Python 和 C++包。 3. 更改到您想要安装的位置，然后点击右下角的安装就行。 4. 安装时间比较长，要耐心等待。 5. 安装好之后，打开 SD 文件目录下的这个文件夹。 6. 在地址栏输入“cmd”，然后回车。 7. 在打开的 dos 界面里面，将这行代码“python m pip install insightface==0.7.3 user”粘贴进来，就会自动开始安装 insightface。 8. 如果这个阶段出现错误，建议去下载使用最新的秋叶 4.2 整合包（6 月 23 号更新），下载包已更新到云盘里，后台回复【SD】就可以下载。 9. 安装完成后，重新打开我们的启动器，后台会继续下载一些模型，此时一定要保证全程科学上网。 另外，对于电脑配置能支持 SD 运行的朋友，也可以使用 B 站秋叶分享的整合包进行本地部署，具体步骤如下： 1. 打开链接 https://pan.baidu.com/s/1hY8CKbYRAj9RrFGmswdNiA?pwd=caru 下载《1.整合包安装》，存放到电脑本地。 2. 打开保存到电脑里的文件夹。 3. 打开文件夹《1.秋叶整合包主包》——鼠标右击文件——点击“解压文件”。 4. 选择解压到 D 盘或者 E 盘，小心 C 盘被占满！点击确定。 5. 解压完成后，来到第二个文件夹，双击里面的文件点击安装。 6. 打开刚刚解压保存的 SD 的根目录，找到启动器，鼠标右击启动器——点击“发送到”——桌面快捷方式。这样下次进入就可以直接在桌面双击进入，不用每次都到文件夹里面找啦！ 7. 双击启动器，等待更新，接着点击左边第二个“高级选项”。 8. 在显存优化里，根据自己电脑的显存选择（就是上面查看的专用 GPU 内存），自己电脑是多少就选多少。 9. 回到第一个一键启动，点击右下角的一键启动。
2024-08-29
apple Mac 有360AI 浏览器的下载吗？
360AI 浏览器功能强大，安全高效且好看好用。它不只是搜索，而是对标 Arc 的 AI 原生浏览器。您可以在官网 ai.se.360.cn 进行下载。我们可以让 360AI 搜索来总结其功能，搜索“360AI 浏览器的功能拆解”，能看到 AI 通过搜索多篇资讯给出详细回答，包含追问、相关内容、延伸阅读、参考资料等部分，右侧还有相关图片和视频资料，下方还有思维导图。希望 360 的 AI 越来越强，国产 AI 越来越繁荣。所以，抛弃成见，尝试下载一个 360AI 浏览器吧。 需要注意的是，目前不太清楚 360AI 浏览器是否有适用于苹果 Mac 系统的版本，您可以前往官网查看确认。
2024-08-25
stable diffusion
稳定扩散（Stable Diffusion）的运作原理如下： 消除图像中的噪点： 如同在太暗环境拍照产生的颗粒状噪点，Stable Diffusion 用于生成艺术作品时会在幕后“清理”图像，它比手机图像编辑器中的噪点消除滑块复杂得多，它了解世界的样子和书面语言，并以此指导噪点消除过程。例如，给它一幅以 H.R. Giger 风格描绘的外星人弹吉他的画，它能像熟练的平面艺术家一样进行清理。 大多数艺术生成工具中有“推理步骤”滑块，稳定扩散是逐步去除噪点的。 起始运作方式：为生成艺术，给稳定扩散提供纯噪点的初始图像，它基于统计数据估计所有选项的概率，即使正确概率极低，仍会选择概率最高的路径。例如，它对吉他在图像中的位置有一定理解，会寻找噪点中最可能像吉他边缘的部分进行填充，且每次给不同的纯噪点图像都会创作出不同作品。 相关组件和模型： UNET 是从噪音中生成图像的主要组件，在预测过程中通过反复调用 UNET，将其预测输出的 noise slice 从原有的噪声中去除，得到逐步去噪后的图像表示。Stable Diffusion Model 的 UNET 包含约 860M 的参数，以 float32 的精度编码大概需要 3.4G 的存储空间。 CLIP 将用户输入的 Prompt 文本转化成 text embedding，UNET 进行迭代降噪，在文本引导下进行多轮预测。 传统扩散模型在处理大尺寸图像和大量扩散步骤时存在计算效率问题，稳定扩散（最初称为潜在扩散模型）是为解决此问题提出的新方法。 存放路径和模型实例： ComfyUI 存放路径：models/checkpoints/SD 基础预训练模型，包括 SD1.5、SDXL 以及 SD 微调模型。 模型实例有【majicMIX realistic 麦橘写实 V7】（sd1.5 微调）、【LEOSAM HelloWorld 新世界】（SDXL 微调）等。 训练方法：DreamBooth（by Google） 格式：EMAonly & pruned 只画图，Full 可画图和微调训练。
2024-11-09
stable diffusion 绘画
以下是关于 Stable Diffusion 绘画的相关内容： 如果您是运营网店的女装店主，在没有资金请模特的情况下，可以用 Stable Diffusion 来制作商品展示图。具体步骤如下： 1. 真人穿衣服拍照，并获取具有真实质感的照片。若身材方面有问题，可借助美图秀秀或 PS 处理。 2. 选好底模，一定要是 realistic 的、真人照片风格的底模，如 majicmixRealistic_v7。 3. 进行换头操作，根据不同平台需求更换，如面向海外市场换白女头，面向中老妇女换妈妈头。 4. 在图生图下的局部重绘选项卡下涂抹自己替换的部分，并设置好 prompts 和 parameters，如“breathtaking cinematic photo, masterpiece, best quality, , blonde hair, silver necklace, carrying a white bag, standing, full body, detailed face, big eyes, detailed hands”。 关于 Stable Diffusion 的工作原理，就像学习画画临摹梵高的作品一样。您花四十年学习的梵高风格相当于 Stable Diffusion 的大模型——Checkpoint。人们将成千上万美术风格的作品练成模型放入 AI 中，AI 就能依照模型画出类似风格的作品。要画出符合心意的作品，首先要选对合适的大模型。大模型可在 C 站（https://civitai.com/）下载，但需要科学上网。有真实系的（Chillmixout）、二次元的（anything）、游戏 CG 风（ReV Animated）等。 用 Stable Diffusion 时，可以把自己想象成画家。在起笔前要确定照片风格，如二次元动漫、三次元现实照片或盲盒模型。确定风格后切换大模型，不同模型代表不同照片风格，即 SD 界面左上角的“Stable Diffusion 模型”。若想生成真人 AI 小姐姐，可选用 chilloutmix 的大模型。关于模型的获取和存放位置，后续会详细介绍。
2024-11-08
stable diffusion
稳定扩散（Stable Diffusion）的运作原理如下： 消除图像中的噪点： 如同在太暗环境拍照产生的颗粒状噪点，Stable Diffusion 用于生成艺术作品时会在幕后“清理”图像。它比手机图像编辑器中的噪点消除滑块复杂得多，不仅了解世界的样子和书面语言，还能利用这些来指导噪点消除过程。例如，就像平面艺术家利用对特定风格和事物的了解来清理图像一样，Stable Diffusion 本质上也在做类似的事情。 对于“推理步骤”，它是逐步去除噪点的。例如运行 25 步的例子中，起始图像可能完全无法辨认，但它实际上是从完全的噪点开始的。 开始生成的方式：为了生成艺术，给 Stable Diffusion 提供的初始图像实际上只是纯噪点，然后让其进行清理。从简单层面看，它作为计算机程序会执行任务并生成内容。更深层次来说，它基于统计数据，估计所有选项的概率，即使正确概率极低，也会选择概率最高的路径，例如寻找噪点中最可能像吉他边缘的部分来填充物体。每次给它不同的纯噪点图像，都会创作出不同的艺术作品。 此外，UNET 是从噪音中生成图像的主要组件，通过反复调用 UNET 去除噪声得到逐步去噪后的图像表示。Stable Diffusion Model 的 UNET 包含约 860M 的参数。CLIP 将用户输入的 Prompt 文本转化成 text embedding，UNET 在文本引导下进行多轮迭代降噪预测。稳定扩散最初称为潜在扩散模型，是为解决传统扩散模型在计算效率上的挑战而提出的。ComfyUI 中存放路径为 models/checkpoints/，有 SD 基础预训练模型如 SD1.5、SDXL 以及微调模型，训练方法有 DreamBooth 等，格式包括 EMAonly & pruned 和 Full 等。
2024-11-08
stablediffusion在线webui如何开发
开发 Stable Diffusion 在线 Web UI 可以按照以下步骤进行： 1. 安装必要的软件环境： 安装 Git 用于克隆源代码。 安装 Python 3.10.6 版本，确保勾选“Add Python 3.10 to PATH”选项。 安装 Miniconda 或 Anaconda 创建 Python 虚拟环境。 2. 克隆 Stable Diffusion Web UI 源代码： 打开命令行工具，输入命令 git clone https://github.com/AUTOMATIC1111/stablediffusionwebui.git ，将源代码克隆到本地目录。 3. 运行安装脚本： 进入 stablediffusionwebui 目录，运行 webuiuser.bat 或 webui.sh 脚本，它会自动安装依赖项并配置环境。等待安装完成，命令行会显示 Web UI 的访问地址。 4. 访问 Web UI 界面： 复制命令行显示的本地 Web 地址，在浏览器中打开，即可进入 Stable Diffusion Web UI 的图形化界面。 5. 学习 Web UI 的基本操作： 了解 Web UI 的各种设置选项，如模型、采样器、采样步数等。尝试生成图像，观察不同参数对结果的影响。学习使用提示词（prompt）来控制生成效果。 6. 探索 Web UI 的扩展功能： 了解 Web UI 支持的各种插件和扩展，如 Lora、Hypernetwork 等。学习如何导入自定义模型、VAE、embedding 等文件。掌握图像管理、任务管理等技巧，提高工作效率。 在完成了依赖库和 repositories 插件的安装后，还需要进行以下配置： 将 Stable Diffusion 模型放到/stablediffusionwebui/models/Stablediffusion/路径下。然后到/stablediffusionwebui/路径下，运行 launch.py 即可。运行完成后，将命令行中出现的输入到本地网页中，即可打开 Stable Diffusion WebUI 可视化界面。进入界面后，在红色框中选择 SD 模型，在黄色框中输入 Prompt 和负向提示词，在绿色框中设置生成的图像分辨率（推荐设置成 768x768），然后点击 Generate 按钮进行 AI 绘画。生成的图像会展示在界面右下角，并保存到/stablediffusionwebui/outputs/txt2imgimages/路径下。 如果选用 Stable Diffusion 作为 AIGC 后台，需要注意： DallE 缺乏室内设计能力，MidJourney 出图效果好但无法基于现实环境重绘，Stable Diffusion 出图成功率较低，但可调用 controlnet 的 MLSD 插件捕捉现实环境线条特征做二次设计。安装 Stable Diffusion WEB UI 后，修改 webuiuser.bat 文件加上 listen 和 API 参数，让 Stable Diffusion 处于网络服务状态。代码如下： @echo off set PYTHON= set GIT= set VENV_DIR= set COMMANDLINE_ARGS=xformers nohalfvae listen api git pull call webui.bat 让 Stable Diffusion 具有 AI 室内设计能力的步骤： 1. 下载室内设计模型（checkpoint 类型），放到 stable diffusion 目录/models/stablediffusion 下面。 2. 安装 controlnet 插件，使用 MLSD 插件，实现空间学习。 通过 API 方式让前端连接到 Stable Diffusion 后台的具体代码在前端开发详细展开，API 参考文档可选读。
2024-11-01
Stable diffusion提示词生成器
以下是关于 Stable diffusion 提示词生成器的相关内容： 1. 描述逻辑：通常包括人物及主体特征（如服饰、发型发色、五官、表情、动作），场景特征（如室内室外、大场景、小细节），环境光照（如白天黑夜、特定时段、光、天空），画幅视角（如距离、人物比例、观察视角、镜头类型），画质（如高画质、高分辨率），画风（如插画、二次元、写实）。通过这些详细的提示词，能更精确地控制绘图。 2. 辅助网站： http://www.atoolbox.net/ ，可通过选项卡方式快速填写关键词信息。 https://ai.dawnmark.cn/ ，每种参数有缩略图参考，方便直观选择提示词。 还可以去 C 站（https://civitai.com/）抄作业，复制每一张图的详细参数粘贴到正向提示词栏，点击生成按钮下的第一个按键，Stable Diffusion 会自动匹配所有参数，但要注意图像作者使用的大模型和 LORA，否则即使参数相同，生成的图也可能不同。也可以选取其中较好的描述词，如人物描写、背景描述、小元素或画面质感等。 3. 充当有艺术气息的 Stable Diffusion prompt 助理：根据给定的主题想象完整画面，转化为详细、高质量的 prompt，包含“Prompt:”和“Negative Prompt:”两部分，用英文半角“,”分隔，negative prompt 描述不想在生成图像中出现的内容。 4. 插件“Easy Prompt Selector”：安装方式是在扩展面板中点击“从网址安装”，输入 https://github.com/bluepen5805/sdwebeasypromptselector 直接安装，将汉化包复制进“……\\sdwebuiakiv4\\extensions”路径文件夹下覆盖，重启 webUI 后，在生成按钮下会多出“提示词”按钮，点击会出现下拉列表，包含很多分类，如点击“人物”会出现常用标签，选择后自动加入正向提示词。
2024-10-31
Stable Diffusion
稳定扩散（Stable Diffusion）的运作原理如下： 消除图像中的噪点：如果拍照太暗会产生噪点，而 Stable Diffusion 用于生成艺术作品时会在幕后“清理”图像。它比手机图像编辑器中的噪点消除滑块复杂得多，它了解世界的样子和书面语言，并以此指导噪点消除过程。例如，给它一幅以 H.R. Giger 风格描绘的外星人弹吉他的画，它能像熟练的平面艺术家一样进行清理。 推理步骤：稳定扩散是逐步去除噪点的，有“推理步骤”滑块。例如一个运行 25 步的例子，外星吉他手的例子更能清晰展示其效果。 开始方式：为了生成艺术，给 Stable Diffusion 提供的初始图像实际上只是纯噪点，并告知它这是一幅特定风格的画。在最简单层面，它作为计算机程序会执行任务。更深层次，它基于统计数据，估计所有选项的概率，即使概率都极低，也会选择概率最高的路径，例如寻找噪点中最可能像吉他边缘的部分来填充物体。每次给它不同的纯噪点图像，都会创作出不同的艺术作品。 此外，UNET 是从噪音中生成图像的主要组件，在预测过程中，通过反复调用 UNET，将其预测输出的 noise slice 从原有的噪声中去除，得到逐步去噪后的图像表示。Stable Diffusion Model 的 UNET 包含约 860M 的参数，以 float32 的精度编码大概需要 3.4G 的存储空间。 ComfyUI 中的相关内容： CLIP 将用户输入的 Prompt 文本转化成 text embedding，UNET 进行迭代降噪，在文本引导下进行多轮预测。 稳定扩散最初称为潜在扩散模型，解决了传统扩散模型在处理大尺寸图像和大量扩散步骤时计算效率的问题。 Checkpoint 的 ComfyUI 存放路径：models/checkpoints/，包括 SD 基础预训练模型（如 SD1.5、SDXL）、SD 微调模型等。训练方法有 DreamBooth 等，格式有 EMAonly & pruned（只画图）和 Full（画图和微调训练）。
2024-10-29
你的知识库是怎么部署的
部署个人知识库需要考虑硬件配置和相关技术原理。 硬件方面： 生成文字大模型，最低配置为 8G RAM + 4G VRAM，建议配置为 16G RAM + 8G VRAM，理想配置为 32G RAM + 24G VRAM（如果要跑 GPT3.5 差不多性能的大模型）。 生成图片大模型（比如跑 SD），最低配置为 16G RAM + 4G VRAM，建议配置为 32G RAM + 12G VRAM。 生成音频大模型，最低配置为 8G VRAM，建议配置为 24G VRAM。 技术原理方面： 利用大模型的能力搭建知识库本身就是一个 RAG 技术的应用。在这个过程中，首先检索外部数据，然后在生成步骤中将这些数据传递给 LLM。 RAG 应用包括文档加载、文本分割、存储、检索和输出这 5 个过程。 文档加载：从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器。 文本分割：把 Documents 切分为指定大小的块。 存储：涉及将切分好的文档块进行嵌入转换成向量的形式，并将 Embedding 后的向量数据存储到向量数据库。 检索：通过某种检索算法找到与输入问题相似的嵌入片。 输出：把问题以及检索出来的嵌入片一起提交给 LLM，LLM 会通过问题和检索出来的提示一起来生成更加合理的答案。 此外，搭建基于 GPT API 的定制化知识库，涉及给 GPT 输入（投喂）定制化的知识。GPT3.5 一次交互（输入和输出）只支持最高 4096 个 Token。为了处理大量领域知识，OpenAI 提供了 embedding API 解决方案。embeddings 是一个浮点数字的向量（列表），两个向量之间的距离衡量它们的关联性，小距离表示高关联度。
2024-11-11
本地部署的AI工具
以下是关于本地部署的 AI 工具的相关信息： 目前市面上的 AI 工具分为线上和线下本地部署两种： 线上的优势：出图速度快，不依赖本地显卡配置，无需下载大型模型，能查看其他创作者的作品，但出图分辨率受限，一般最高支持 1024×1024 左右，制作横板、高清图片会受影响。 线下部署的优势：可以添加插件，不卡算力，出图质量高。但使用时电脑基本处于宕机状态，配置不高可能会出现爆显存导致出图失败的情况。 具体的部署步骤（以 windows10 系统为例，mac 系统步骤类似，命令有所不同）： 1. 安装环境： 点击电脑“系统”，输入“cmd”，回车打开命令窗口。 在命令窗口中，粘贴代码确认是否有 python 和 pip。 若没有，需安装：先安装 python，安装包可通过下载，按照步骤安装，关闭窗口再次运行命令确认。 2. 部署项目： 下载 COW 机器人项目并解压缩。 回到 chatgptonwechat/文件路径下，空白处右键，打开 Powershell 复制粘贴“python app.py”，弹出二维码扫码登录。 注意事项： 1. 程序在本地运行，关闭窗口进程结束，若要持续使用需保持窗口打开和运行。 2. 若突然不管用，可点击窗口并按空格。 3. 配置时，在 config.json 中的 OpneAi_Api 填“http://localhost:3000/api/v1/chat/completions”。 对于游戏截图升级到 KV 品质的应用，可充分发挥线上和线下平台的优势：线上找参考、测试模型，线下作为主要出图工具。先在线上绘图网站的绘图广场发现想要的画风，点击创作获取模型 lora 和 tag，截取游戏人物底图将线上算力集中在人物身上，多批次尝试不同画风得出合适模型+lora 组合，最后在 C 站（）下载对应模型到本地加载部署后正式生图。
2024-11-10
联想异能者配置i5-12450八核，32GB内存,1TB固态硬盘，用于本地部署开源大模型可以部署哪些开源大模型
以下是一些您的联想异能者配置（i512450 八核，32GB 内存，1TB 固态硬盘）可部署的开源大模型及相关信息： ComfyUI 相比 WebUI 配置更低，系统资源占用更少，出图速度更快。ComfyUI 最低可在小于 3G 的 GPU 上运行，甚至没有 GPU 光用 CPU 也可以运行，但速度极慢。SDXL 出来后提高了运行配置，最低需要 8GB 显存+32GB 运行内存，12GB 流畅运行，推荐 16GB 以上。玩 SDwebui 和 ComfyUI 建议使用 6GB 以上的显存的 NVIDIA 显卡（N 卡），内存在 16G 以上。硬盘会影响加载模型的速度，所以最好把软件和模型部署在 SSD（固态硬盘）上。 截止 2024 年 5 月，主流的 AI 笔记本电脑主要是一些专门为人工智能和深度学习设计的高性能移动工作站。一些知名品牌包括微软第 11 代 Surface Pro、微星 Creator/Workstation 系列、技嘉 Aero/Aorus 系列、戴尔 Precision 移动工作站、惠普 ZBook 移动工作站、联想 ThinkPad P 系列。这些笔记本通常配备强大的 GPU（如 NVIDIA RTX 系列）、大容量内存（32GB 以上）和高速固态硬盘，还通常预装了 NVIDIA CUDA、cuDNN 等深度学习框架，以及各种 AI 开发工具。但这类高端 AI 笔记本价格相对较高，通常在 2000 美元以上。用户可根据自身需求和预算选择合适型号，并关注散热、续航等实际使用体验。 请注意，配置上不封顶，您可根据自己的需求和预算来选择。
2024-11-04
如何做大模型的云端部署与微调
做大模型的云端部署与微调，主要包括以下步骤： 1. 选择合适的部署方式： 本地环境部署。 云计算平台部署。 分布式部署。 模型压缩和量化。 公共云服务商部署。需根据自身的资源、安全和性能需求进行选择。 2. 准备训练所需的数据和计算资源： 确保有足够的训练数据覆盖目标应用场景。 准备足够的计算资源，如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础： 可以使用开源的预训练模型如 BERT、GPT 等。 也可以自行训练一个基础模型。 4. 针对目标任务进行模型微调训练： 根据具体应用场景对预训练模型进行微调训练。 优化模型结构和训练过程以提高性能。 5. 部署和调试模型： 将训练好的模型部署到生产环境。 对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护： 大模型涉及大量数据和隐私信息，需要重视安全性和合规性。 例如，对于 SDXL 的大模型，本地部署时要注意模型分为 base+refiner 以及配套的 VAE 模型，需将其放入对应文件夹，并在秋叶启动器中将 webUI 的版本升级到 1.5 以上。而对于 Llama3 的部署和微调，实操分两部分，包括本地部署并通过 webdemo 对话，以及使用特定数据集进行微调，具体流程为购买服务器、安装代码环境、下载通用模型和数据集、挑选微调框架、编写微调程序和验证结果。 总的来说，部署和微调大模型需要综合考虑多方面因素，根据具体需求选择合适的方法，并注意优化各个环节以提高模型性能和应用效果。
2024-10-26
docker部署qwen
以下是关于 Docker 部署相关问题的综合回答： 容器编排模板： 容器编排模板是一种配置文件，用于在 Docker 中部署和管理多个容器，可一键部署复杂环境，无需手动配置细节，如配置 COW 组件与微信和极简未来平台交互。 使用 Docker 部署 COW 组件的原因： Docker 提供隔离运行环境，确保应用在任何环境稳定运行，简化安装和配置过程，保证环境一致，便于管理和维护。 配置多个前缀触发机器人回复的原因： 配置如“bot”、“@bot”等多个前缀，能确保机器人只在特定情况回复，避免群聊或私聊中频繁干扰，提高响应准确性和用户体验。 扫码登录失败的解决办法： 1. 重启 Docker 容器：在宝塔面板中找到对应容器，点击“重启”。 2. 检查网络连接：确保服务器和微信客户端能正常访问互联网。 3. 重新扫描二维码：等待容器重启后，重新扫描日志中生成的二维码。 费用相关： 使用 AI 微信聊天机器人的费用实际上不高，极简未来平台按使用量收费，对一般用户费用相对低廉，充值少量费用通常可用很长时间，且平台提供每天签到免费领积分福利，进一步降低使用成本。使用极简未来平台创建 AI 机器人的具体费用未明确给出。
2024-10-20
我想在云服务器部署使用 dify 和 comfyui ，云服务器机器配置需要什么要求呢
在云服务器部署使用 Diffy 和 ComfyUI ，云服务器机器配置要求如下： 1. 系统：Windows 7 以上。 2. 显卡要求：NVIDIA 独立显卡且显存至少 4G 起步。但 SDXL 出来后提高了运行配置，最低需要 8GB 显存+32GB 运行内存，12GB 流畅运行，推荐 16GB 以上。 3. 硬盘：留有足够的空间，最低 100G 起步（包括模型）。硬盘会影响加载模型的速度，最好把软件和模型部署在 SSD（固态硬盘）上。 4. 内存：最低 32GB，越高越好，最低配会经常爆显存。 需要注意的是，ComfyUI 相比 WebUI 配置更低，系统资源占用更少，出图速度更快，最低可在小于 3G 的 GPU 上运行，甚至没有 GPU 光用 CPU 也可以运行，但速度极慢。如果您的电脑能顺畅清晰地玩 3A 游戏，那玩 WebUI 和 ComfyUI 通常也没问题。配置上不封顶，根据自己的需求和预算来选择即可。
2024-10-19