以下是本地部署 ollama + deep seek 后有效搭建机械领域知识库或微调为机械领域的步骤:
我们返回RAGFlow中,打开右上角设置,进入模型提供商,显示如下界面接着我们就开始配置我们本地部署的DeepSeek模型选择Ollama,配置如下信息,模型是什么取决你运行的模型是什么基础URL如下配置设置完成之后,点击确定即可,然后显示如下界面那么再导入一个embedding模型,这个嵌入模型可以用于文本的向量化导入成功之后,界面如下接着我们设置系统模型设置设置好后,就可以返回知识库,进行创建知识库了进入数据集,导入文件即可,当然可以设置文件夹当作知识库,大家自行设置导入完毕之后,需要将文件进行解析之后,大模型才会懂得文件内容是什么。可以批量进行解析,文件解析速度按照你本机的GPU性能,即显卡的性能,越好的显卡,解析越快,越差则反之解析好之后,进入检索测试即可测试没有问题,那么对于文件来说,模型是可以进行检索的,下一步就可以进入聊天界面了助理设置可以自行进行设置
先下载Ollama程序官方网址:https://ollama.com/有点大,需要稍等一会默认是下载到C盘,因为C盘一般为固态盘,运行速度快,大致应该是需要2个G,想要修改安装目录到D盘,后续会增加说明下载完之后,右下角会出现Ollama的图标打开命令行输入如下命令回车即可我这里的显卡是英伟达2060Super,所以就选择了Deepseek-r1:14b的模型,大家根据自己的独立显卡的性能进行下载如果下载速度变得非常慢,可以按Ctrl+C继续强制退出,重新进行下载下载完毕之后,如下图,即下载并运行成功然后我们再下载一个嵌入模型Ollama的bge模型官方网址:https://ollama.com/library/bge-m3输入如下命令下载好后,直接退出终端即可