如果 Ollama 检测不了本地大模型,可能需要进行以下操作:
⑥对于ipadater部分,倘若加载器部分报错说model不存在,将文中画圈部分修改调整到不报错:⑦Pulid部分,除了下载好对应的节点以及参考官方网站[GitHub - cubiq/PuLID_ComfyUI:PuLID native implementation for ComfyUI](https://github.com/cubiq/PuLID_ComfyUI)最下面的安装对应要求外:还要注意上图中的第二要点,对应安装一些内容,具体要求如下图(在云盘中命名为“pulid插件模型位置.png”)及对应的云盘链接:PulID全套模型链接:https://pan.baidu.com/s/1ami4FA4w9mjuAsPK49kMAw?pwd=y6hb提取码:y6hb否则将会遇到以下的报错:Error occurred when executing PulidEvaClipLoader:(MaxRetryError('HTTPSConnectionPool(host=\'huggingface.co\',port=443):Max retries exceeded with url:/QuanSun/EVA-CLIP/resolve/main/EVA02_CLIP_L_336_psz14_s6B.pt(Caused by SSLError(CertificateError("hostname \'huggingface.co\' doesn\'t match either of \'*.extern.facebook.com\',\'extern.facebook.com\'")))'),'(Request ID:05b932bd-e982-434e-8dc7-e41cca2e949f)')⑧Ollama大模型部分,为了应对没下载大模型带来的报错,因此需要下载大模型首先,下载ollama,网站:[Download Ollama on Windows](https://ollama.com/download)
安装完之后,确保ollama后台服务已启动(在mac上启动ollama应用程序即可,在linux上可以通过ollama serve启动)。我们可以通过ollama list进行确认,当我们还没下载模型的时候,正常会显示空:可以通过ollama命令下载模型,目前,我下载了4个模型:几个模型简介如下:Gemma:Gemma是由Google推出的轻量级模型,Google表示,“Gemma 2B和7B与其他开放式模型相比,在其规模上实现了同类最佳的性能。”本次开发,下载的是7B模型。Mistral:Mistral是由欧洲法国Mistral AI团队推出的大模型,该模型采用了分组查询注意力(GQA)以实现更快的推断速度。本次开发,下载的是7B模型。Mixtral:Mixtral也是由Mistral AI团队推出的大模型,但Mixtral是一个8*7B的MoE模型,在大多数基准测试中都优于Llama 2 70B和GPT-3.5。Qwen:Qwen(通义千问)是由阿里巴巴推出的大模型,本次开发,下载的是7B模型。万物皆可RSS巧妇难为无米之炊。不管是获取日常新闻,还是获取A股行情,都需要有稳定靠谱的数据源。大家可能第一时间会想到爬虫,但自己去搭建和维护这样一个爬虫系统还是比较麻烦的。有没有其他更好的方式呢?这就需要用到「上古神器」 RSS了!
当安装完成ollama之后,我们就可以在命令行中运行如下命令既可以其中[model name]就是你想运行的本地大模型的名称,如果你不知道应该选择哪个模型,可以通过[model library](https://ollama.com/library)进行查看。这里我们选择llama2大模型:[llama2](https://ollama.com/library/llama2)考虑到我机器的配置以及不同版本的内存要求,我这里选择7b参数的模型当我们运行大模型的时候,ollama会自动帮我们下载大模型到我们本地。