以下是 Ollama 在 Windows 上的安装步骤:
先去[Ollama官网](https://www.ollama.com/)下载并安装Ollama,然后打开Powershell运行以下命令[heading4]Win安装教程[heading4]Mac安装教程[heading4]使用[content]Win编辑run_win.ps1文件,Mac编辑run_mac.sh文件,将目录中的图片路径和触发词填写,运行即可[heading3]GPT 4V打标工具[content]该工具需要使用GPT 4.0的API,3.5不可用,详情见兔狲大佬视频教程Windows版安装教程[heading3]WD1.4[content]打开WebUI,找到Tagger选项卡,如果没有的话说明没有安装插件,参考[插件安装](https://yyn6skjv3j.feishu.cn/wiki/GICawhF95inhcbkdl72c3vf6nMe)教程安装插件[heading3]BooruDatasetTagManager标签处理工具[content]前往https://github.com/starik222/BooruDatasetTagManager/releases下载软件包,解压缩后双击运行即可
我们需要进行部署的有三大部分1、本地部署大语言模型2、本地部署FastGPT+OneAPI3、本地部署HOOK项目或COW[heading1]一、部署大语言模型[content]一、下载并安装Ollama1、点击进入,根据你的电脑系统,下载Ollama:https://ollama.com/download2、下载完成后,双击打开,点击“Install”3、安装完成后,将下方地址复制进浏览器中。如果出现下方字样,表示安装完成http://127.0.0.1:11434/二、下载qwen2:0.5b模型(0.5b是为了方便测试,下载快,自己设备充足的话,可以下载更大的模型)1、如果你是windows电脑,点击win+R输入cmd,点击回车如果你是Mac电脑,按下Command(⌘)+ Space键打开Spotlight搜索。输入“Terminal”或“终端”,然后从搜索结果中选择“终端”应用程序。2、复制以下命令行,粘贴进入,点击回车:3、回车后,会开始自动下载,等待完成(这里下载久了,可能会发现卡着不动,不知道下载了多少了。鼠标点击一下窗口,键盘点空格,就会刷新了)4、下载完成后你会发现,大模型已经在本地运行了。输入文本即可进行对话。
(MaxRetryError('HTTPSConnectionPool(host=\'huggingface.co\',port=443):Max retries exceeded with url:/QuanSun/EVA-CLIP/resolve/main/EVA02_CLIP_L_336_psz14_s6B.pt(Caused by SSLError(CertificateError("hostname \'huggingface.co\' doesn\'t match either of \'*.extern.facebook.com\',\'extern.facebook.com\'")))'),'(Request ID:05b932bd-e982-434e-8dc7-e41cca2e949f)')⑧Ollama大模型部分,为了应对没下载大模型带来的报错,因此需要下载大模型首先,下载ollama,网站:[Download Ollama on Windows](https://ollama.com/download)其次,在[llama3:8b-instruct-q4_K_M(](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[ollama.com](https://ollama.com/library/llama3:8b-instruct-q4_K_M)[)](https://ollama.com/library/llama3:8b-instruct-q4_K_M)网站中,复制代码如红框:然后,像我建议一样打开ComfyUi根目录下的custom_nodes\ComfyUi-Ollama-YN的文件路径,在上方的路径下输入cmd:进入到下方的命令行,右键即可粘贴刚才的代码,等待下载即可:⑨instanid部分: