Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

使用开源大模型本地化部署使用电脑配置,推荐几款笔记本电脑

Answer

以下是关于使用开源大模型本地化部署所需电脑配置及笔记本电脑推荐的相关信息:

运行大模型需要较高的机器配置,个人玩家大多负担不起。以下是不同类型大模型的配置要求:

  • 生成文字大模型:
    • 最低配置:8G RAM + 4G VRAM
    • 建议配置:16G RAM + 8G VRAM
    • 理想配置:32G RAM + 24G VRAM(跑 GPT-3.5 差不多性能的大模型)
  • 生成图片大模型(比如跑 SD):
    • 最低配置:16G RAM + 4G VRAM
    • 建议配置:32G RAM + 12G VRAM
  • 生成音频大模型:
    • 最低配置:8G VRAM
    • 建议配置:24G VRAM

对于本地化部署,不建议使用最低配置,因为速度会非常慢。例如,用 8G 的 Mac 电脑尝试过,效果不佳。

由于本地化部署对电脑配置要求较高,不太推荐本地化安装实现。如果想使用开源大模型,可选择利用云厂商已提供好的大模型运行环境和计算能力,比如阿里云的 PAI 和 AutoDL。

在笔记本电脑选择方面,建议选择具备以下配置的机型:

  1. 内存:16GB 及以上的 RAM。
  2. 显卡:具有 8GB 及以上 VRAM 的独立显卡。

但具体的笔记本电脑型号还需根据您的预算和其他需求来确定。

Content generated by AI large model, please carefully verify (powered by aily)

References

实战: 每个人都可以用10分钟轻松制作AI换脸、AI数字人视频的方法!

有多个AI产品可以实现换脸效果,这里介绍一个开源、免费的解决方案:facefusion开源地址:https://github.com/facefusion/facefusion4.1本机解决方案这个软件需要python环境,以及要安装视频解码器等多个依赖的软件,因此如果你想在本地电脑上安装,需要一定的编程知识。可以参考网站:https://docs.facefusion.io/说明来进行本地的安装。由于facefusion的运行推理计算的速度,非常依赖于GPU,因此如果本地计算机没有GPU或者GPU显存较小,那么执行的速度将会非常缓慢。我的笔记本是Macbook Pro M1 16GB内存,集成GPU。对一个1分30秒的视频换脸,需要1300秒。facefusion所以,无论从环境配置还是计算速度来说,都不推荐本地化安装实现。4.2云服务解决方案另一个可选的方案,是利用云厂商已经提供好的大模型运行环境和计算能力。比如阿里云的PAI和AutoDL。注:这种方案需要产生一定的费用。我选择的是AutoDL,其官网是:https://www.autodl.com/home注册完成后,在算力市场中,选择你能接受价格的算力服务器。建议选取GPU配置更高的算力设备。4.2.2通过模型镜像启动GPU服务器在算法社区查找facefusion镜像:

AI 大语言模型赋予火火兔生命

5~6台火火兔+ folotoy模组(3套现场试玩的成品,2套拆开的裸组件),有更多其他形态的机子更佳用于连接火火兔和电脑的网络本地部署的dify服务器-- Larrytts和asr服务器两台笔记本+两张以上椅子展示用桌子两张屏幕2块一个相对安静的空间用于语音克隆

手把手教你本地部署大模型以及搭建个人知识库

所有人都会手把手教你部署XX大模型,听起来很诱人,因为不需要科学上网,不需要高昂的ChatGPT会员费用。但是在开启下面的教程之前,我希望你能有个概念:运行大模型需要很高的机器配置,个人玩家的大多数都负担不起所以:虽然你的本地可能可以搭建出一个知识库,但是它不一定能跑的起来下面我通过一组数据来让大家有个感性的认知。以下文字来源于视频号博主:黄益贺,非作者实操生成文字大模型最低配置:8G RAM + 4G VRAM建议配置:16G RAM + 8G VRAM理想配置:32G RAM + 24G VRAM(如果要跑GPT-3.5差不多性能的大模型)生成图片大模型(比如跑SD)最低配置:16G RAM + 4G VRAM建议配置:32G RAM + 12G VRAM生成音频大模型最低配置:8G VRAM +建议配置:24G VRAM而最低配置我就不建议了,真的非常慢,这个我已经用我自己8G的Mac电脑替你们试过了。讲这个不是泼大家冷水,而是因为我的文章目标是要做到通俗易懂,不希望通过夸大的方式来吸引你的眼球。

Others are asking
用这些AI工具电脑配置
以下是一些使用 AI 工具时可能需要的电脑配置相关信息: Garman:AI 具身对话机器人 硬件组装:需要一台电脑和一台 iPhone,安卓目前不支持。 工具准备:剪刀、钳子、小十字螺丝刀、单面胶、双面胶。 数据线:优先推荐双头 TYPEC 数据线,其次是 USB TYPEC 数据线,多备几条,注意充电线不一定是数据线,要确保可传输数据。 这不是一台电脑,这是一个伴侣! 开发者工具: 个性(LLM 的文本):一些开源模型(如 Vicuna 和 Pygmalion)已微调,适用于各种应用场景。 记忆(向量存储):像 Pinecone 这样的向量存储系统可建立持续关系,配置代码存储长期记忆等信息。 语音(语音合成):像 ElevenLabs 这样的产品可赋予声音,控制年龄、性别和口音。 外表(SD 模型作图):LoRAs 可精细控制图像风格等。 动画(视频动画):像 DID 和 HeyGen 这样的工具可使图像“说话”。 平台:大多数开发者在 GCP 和 AWS 上部署和运行,像 Steamship 这样的解决方案正受关注。 UI 层:SillyTavern、Agnaistic 和 KoboldAI 是受欢迎的选择。 绘制逻辑视图、功能视图、部署视图的工具 Lucidchart:流行的在线绘图工具,支持多种图表创建。 Visual Paradigm:全面的 UML 工具,提供多种架构视图创建功能。 ArchiMate:开源建模语言,与 Archi 工具配合使用。 Enterprise Architect:强大的建模、设计和生成代码工具。 Microsoft Visio:广泛使用的图表和矢量图形应用程序。 draw.io(diagrams.net):免费在线图表软件。 PlantUML:文本到 UML 转换工具。 Gliffy:基于云的绘图工具。 Archi:免费开源工具,支持创建 ArchiMate 和 TOGAF 模型。 Rational Rose:IBM 的 UML 工具。
2024-11-30
AI视频需要什么 电脑配置
制作 AI 视频通常需要以下方面的准备和配置: 1. 内容准备: 准备一段视频中播放的文字内容,例如产品介绍、课程讲解、游戏攻略等。可以自行创作,也可以利用 AI 生成。 2. 视频制作工具: 可以使用剪映 App 对视频进行简单处理,电脑端打开剪映 App 点击“开始创作”,选择顶部工具栏中的“文本”,并点击默认文本右下角的“+”号为视频添加文字内容轨道。 3. AI 换脸方面: 有多个 AI 产品可实现换脸效果,如开源免费的 facefusion。 本机解决方案需要 Python 环境、安装视频解码器等多个依赖软件,对 GPU 依赖较大,本地计算机若无 GPU 或 GPU 显存较小,执行速度缓慢,不推荐本地化安装。 云服务解决方案可利用云厂商如阿里云的 PAI 和 AutoDL 提供的大模型运行环境和计算能力,但会产生一定费用。例如选择 AutoDL,在算力市场中选取能接受价格且 GPU 配置更高的算力设备,并通过模型镜像启动 GPU 服务器。
2024-09-24
stable diffusion需要的电脑配置
为了顺利安装和使用 Stable Diffusion(简称“SD”),您需要先查看自己的电脑配置,注意以下两点: 1. 电脑系统:应为 Win10 或者 Win11,避免使用更低版本的系统。查看方法为在桌面上找到“我的电脑”,鼠标右键点击,点击“属性”,查看 Windows 规格。 2. 电脑性能: 电脑运行内存应在 8GB 以上。检查方法为:鼠标右击桌面底部任务栏,点击“任务管理器”,在“性能”里面找到“内存”,只要看图中划线的那一个参数即可。8GB 勉强达到标准,16GB 可以正常使用,32GB 则能非常自由地使用 SD。 应是英伟达(俗称 N 卡)的显卡,显卡内存在 4GB 以上。检查方法为:在“任务管理器”中查看“GPU”,GPU 即显卡。 另外,带动 SD 推荐的电脑配置为:电脑运行内存 16GB 以上,英伟达显卡,显卡内存 8GB 以上。同时打开任务管理器的方式为同时按下 ctrl+shift+esc。
2024-08-13
安装 SD 电脑配置
安装Stable Diffusion对电脑配置有一定的要求,主要是为了确保能够顺利运行AI绘画模型并生成高质量的图像。以下是安装Stable Diffusion所需的基本电脑配置要求: 1. 显卡:需要使用NVIDIA显卡,因为Stable Diffusion主要依赖CUDA进行GPU加速。推荐的显卡配置从NVIDIA GeForce GTX 1070起,或NVIDIA Quadro P4000起。 2. 显存:最低配置需要4GB显存,基本配置6GB显存,推荐配置12GB显存或者以上。显存越大,可设置的图片分辨率越高,且能处理更复杂的图像生成任务。 3. 操作系统:需要是Windows 10或Windows 11。对于Mac用户,虽然可以使用CPU进行渲染,但速度会比较慢,因此推荐使用配备NVIDIA显卡的Windows电脑。 4. 硬盘空间:建议有60GB以上的硬盘空间,因为Stable Diffusion的模型文件通常较大,且批量生成图像会占用较多存储空间。 5. 内存:虽然没有具体要求,但为了保证运行流畅,建议有8GB以上的内存。 6. Python环境:Stable Diffusion是基于Python搭建的,因此需要在电脑上安装Python环境。建议安装3.10.6版本,这是Stable Diffusion WebUI作者推荐安装的版本。 7. Git:用于从GitHub上安装和更新Stable Diffusion及其插件。 8. Docker:如果选择使用Docker部署Stable Diffusion,需要在系统上安装Docker Desktop。 请注意,具体的配置要求可能会根据Stable Diffusion的版本和使用的具体功能有所不同。如果使用云端服务或在线工具,对本地电脑配置的要求会降低,因为大部分计算会在云端完成。
2024-05-01
如何本地化部署deepseek
本地化部署 DeepSeek 的步骤如下: 1. 拥有扣子专业版账号:如果您还是普通账号,请自行升级或注册专业号后使用。开通成功后会显示相应状态。 2. 开通 DeepSeek R1 大模型:访问地址 https://console.volcengine.com/cozepro/overview?scenario=coze ,打开火山方舟,找到开通管理,找到 DeepSeek R1 模型,点击开通服务。添加在线推理模型,添加后在扣子开发平台才能使用。添加过程包括添加模型和完成接入。 3. 创建智能体:点击创建,先完成一个智能体的创建。 需要注意的是,本地部署的版本能作为替补,但很难作为长期使用的版本。DeepSeek 具有三种含义指向,包括 deepseek 公司(深度求索)、deepseek 网站和手机应用,以及有推理功能的 deepseek R1 大模型(权重文件开源,可本地部署)。
2025-02-11
deepseek的本地化部署对于软硬件的具体要求
DeepSeek 的本地化部署对于软硬件的具体要求如下: 系统:Windows 7 以上(不建议使用 XP 系统)。 显卡要求:NVDIA 独立显卡且显存至少 4G 起步。 硬盘:留有足够的空间,最低 100G 起步(包括模型)。 内存和显存配置: 生成文字大模型: 最低配置:8G RAM + 4G VRAM 建议配置:16G RAM + 8G VRAM 理想配置:32G RAM + 24G VRAM(如果要跑 GPT3.5 差不多性能的大模型) 生成图片大模型(比如跑 SD): 最低配置:16G RAM + 4G VRAM 建议配置:32G RAM + 12G VRAM 生成音频大模型: 最低配置:8G VRAM 建议配置:24G VRAM 需要注意的是,mac 系统、AMD 显卡、低显卡的情况也可以安装使用,但功能不全,出错率偏高,严重影响使用体验,个人建议升级设备或者采用云服务器玩耍。最低配置可能运行非常慢。
2025-02-06
ai本地化部署
AI 本地化部署主要包括以下方面: 线上和线下本地部署的 AI 特点: 线上 AI 出图速度快,不吃本地显卡配置,无需下载大模型,能看他人作品,但出图尺寸受限。 线下部署可添加插件,不卡算力,出图质量高,但使用时电脑易宕机,配置不高可能爆显存导致出图失败。 线上和线下平台的结合使用: 线上用于找参考、测试模型。 线下作为主要出图工具。 智谱 BigModel 共学营第二期微信助手本地电脑环境部署(以 Windows 为例): 程序在本地运行,关闭窗口进程结束,若要持续使用需保持窗口打开和运行。 若突然不管用,可点击窗口并按空格,因选中状态下 powershell 窗口不继续执行。 完成部署后: 登录成功给微信发送消息可看到正常回复。 可在智谱清流更改 AI 功能或人设,即时生效。 对文件内代码更改需重新打印登陆二维码,在“文件”的【终端】输入 python app.py 重新扫码登录。 无手机登录可用夜神模拟器模拟。 报错“wxsid”可能因微信未实名,实名即可。 制作完成后 24 小时内会掉线一次,重新登录即可,先不要急着加好友。
2025-01-31
如何本地化部署一个ai助手
本地化部署一个 AI 助手可以参考以下几种方式: 1. 在网站上增加 AI 助手: 搭建示例网站: 创建应用:点击打开函数计算应用模板,参考相关选择直接部署、填写百炼应用 ID 以及 APIKEY,其他表单项保持默认,点击创建并部署默认环境,等待项目部署完成(预计耗时 1 分钟)。 访问网站:应用部署完成后,在应用详情的环境信息中找到示例网站的访问域名,点击即可查看,确认示例网站已经部署成功。 为网站增加 AI 助手: 增加 AI 助手相关代码:回到应用详情页,在环境详情的最底部找到函数资源,点击函数名称,进入函数详情页。在代码视图中找到 public/index.html 文件,取消相关位置的代码注释。最后点击部署代码,等待部署完成。 验证网站上的 AI 助手:重新访问示例网站页面以查看最新效果,网站的右下角会出现 AI 助手图标,点击即可唤起 AI 助手。 2. 从 LLM 大语言模型、知识库到微信机器人的全本地部署(以 windows10 系统为例): 本地 Hook 或 COW 机器人(二选一,建议先选择 COW): 注意:本教程完成后,程序将在您的电脑本地运行,假如关掉了窗口,进程也就结束。所以,如果想让 AI 持续使用,就必须保持窗口打开和运行,也就是电脑不能关。 安装环境: 点击电脑“系统”,直接输入“cmd”,点击回车,打开命令窗口。 在命令窗口中,粘贴入相关代码,确认是否有 python 和 pip。 如果没有,先进行 python 的安装,可点击下载:。 部署项目:下载 COW 机器人项目,解压缩。 3. 把大模型接入小米音箱(node.js): 第四步:填写 API 服务: 智普:接口地址:https://open.bigmodel.cn/api/paas/v4,模型:glm4flash。 硅基:选择 AI 服务为自定义,接口地址:https://api.siliconflow.cn/v1。 其他模型的 API 端口请参考官方文档:https://migptgui.com/docs/apply/。 第五步:语音服务:官方说明:https://migptgui.com/docs/faqs/tts。 第六步:启动服务:在最上方可导出编辑的内容,格式为 json 格式,如果改错了可以导入之前保存的配置。单击启动,回到 powshell 界面。每次调整设置都需要重置后重新启动。建议回答完毕后增加结束的提示语,可以提高连续对话的稳定性。官方常见问题文档:https://migptgui.com/docs/faqs/noreply。
2025-01-05
能够本地化部署的AI文字助手
以下是关于本地化部署的 AI 文字助手以及相关排版和润色工具的信息: 本地化部署的 AI 文字助手: 在让 AI 助手能准确回答问题之前,可先快速将其集成到网站中。 1. 搭建示例网站: 创建应用:点击打开函数计算应用模板,参考相关选择直接部署、填写百炼应用 ID 以及 APIKEY,其他表单项保持默认,点击创建并部署默认环境,等待项目部署完成(预计耗时 1 分钟)。 访问网站:应用部署完成后,在应用详情的环境信息中找到示例网站的访问域名,点击查看确认部署成功。 2. 为网站增加 AI 助手: 增加 AI 助手相关代码:回到应用详情页,在环境详情底部找到函数资源,点击函数名称进入函数详情页,在代码视图中找到 public/index.html 文件,取消相关位置的代码注释,最后点击部署代码等待完成。 验证网站上的 AI 助手:重新访问示例网站页面查看最新效果,会发现网站右下角出现 AI 助手图标,点击唤起。 AI 文章排版工具: 主要用于自动化和优化文档布局和格式,特别是处理学术论文和专业文档。一些流行的工具包括: 1. Grammarly:不仅是语法和拼写检查工具,还提供排版功能,改进文档风格和流畅性。 2. QuillBot:AI 驱动的写作和排版工具,改进文本清晰度和流畅性。 3. Latex:广泛用于学术论文排版,使用标记语言描述格式,有许多 AI 辅助的编辑器和插件简化排版过程。 4. PandaDoc:文档自动化平台,使用 AI 帮助创建、格式化和自动化文档生成,适合商业和技术文档。 5. Wordtune:AI 写作助手,重新表述和改进文本,使其更清晰专业。 6. Overleaf:在线 Latex 编辑器,提供丰富模板和协作工具,适合学术写作和排版。 选择合适的工具取决于具体需求,如文档类型、出版标准和个人偏好。对于学术论文,Latex 和 Overleaf 受欢迎;对于一般文章和商业文档,Grammarly 和 PandaDoc 等可能更适用。 文章润色工具: 常见的有: 1. Wordvice AI:集校对、改写转述和翻译等功能于一体,基于大型语言模型提供全面的英文论文润色服务。 2. ChatGPT:由 OpenAI 开发的大型语言模型,可用于多方面写作辅助。 3. Quillbot:人工智能文本摘要和改写工具,可用于快速筛选和改写文献资料。 4. HyperWrite:基于 AI 的写作助手和大纲生成器,帮助写作前头脑风暴和大纲规划。 5. Wordtune:AI 驱动的文本改写和润色工具,优化文章语言表达。 6. Smodin:提供 AI 驱动的论文撰写功能,可根据输入生成符合要求的学术论文。 这些 AI 工具涵盖文章润色的各个环节,可提高写作效率和质量,科研人员和学生可根据自身需求选择。 请注意,以上内容由 AI 大模型生成,请仔细甄别。
2025-01-05
能够本地化部署的AI助手
以下是关于能够本地化部署的 AI 助手的相关信息: 聊天对话类 AI 产品 ChatGPT: 由 OpenAI 开发,是国际 AI 领域的明星产品,家喻户晓。 开创性强,是首批向公众开放的大规模商用 AI 对话系统之一,掀起 AI 革命,改变人们对 AI 认知,为技术发展指明方向。 用户体验精心设计,界面简洁直观,交互流畅自然,新手也能轻松上手,降低使用门槛,普及 AI。 技术实力强,背后的 GPT 系列模型性能和能力领先,语言理解深度和生成内容质量高,能应对复杂任务和挑战。 局限性:不再是市场唯一顶级选择,其他产品在特定领域超越其表现;国内用户使用可能有网络连接问题,影响体验。 AI 工具使用方法: 市面上有线上和线下本地部署两种 AI。 线上优势:出图速度快,不吃本地显卡配置,无需下载大模型,能看他人作品,但出图最高 1024×1024 左右,制作横板、高清图片受限。 线下优势:可添加插件,不卡算力,出图质量高,但使用时电脑基本宕机,配置不高可能爆显存导致出图失败。 充分发挥线上和线下平台优势:线上找参考、测试模型,线下作为主要出图工具。 在线上绘图网站绘图广场找想要的画风,点击创作会自动匹配模型、lora 和 tag。 截取游戏人物底图,将线上有限算力堆在人物身上,多批次、多数量尝试不同画风,得出符合游戏的模型+lora 组合,在 C 站下载对应模型到本地加载部署后正式生图。 本地部署资讯问答机器人: 对于期望在本地环境利用 AI 技术搭建 RAG 系统的用户,有实际操作价值的参考方案。
2025-01-05
开源模型和闭源模型
开源模型和闭源模型的情况如下: 专有模型(闭源模型):如 OpenAI、Google 等公司的模型,需访问其官方网站或平台(如 ChatGPT、Gemini AI Studio)使用。 开源模型: 可使用推理服务提供商(如 Together AI)在线体验和调用。 可使用本地应用程序(如 LM Studio)在个人电脑上运行和部署较小的开源模型。 例如 DeepSeek、Llama 等开源模型。 Qwen 2 开源,具有多种尺寸的预训练和指令调整模型,在大量基准评估中表现出先进性能,超越目前所有开源模型和国内闭源模型,在代码和数学性能等方面显著提高。 金融量化领域的大模型正趋向闭源,几个巨头的核心模型如 OpenAI 最新一代的 GPT4、Google 的 Bard 以及未来的 Gemini 短时间内不会公开。Meta 的 LLaMA 目前开源,但未来可能改变。OpenAI 未来可能开源上一代模型。
2025-02-17
做chatbi有什么开源项目可以参考
以下是一些可参考的做 chatbot 的开源项目: Inhai:Agentic Workflow:其中介绍了大模型利用「网页搜索」工具的典型例子,还包括 Agent 自行规划任务执行的工作流路径以及多 Agent 协作的内容。 ChatDev:吴恩达通过此开源项目举例,可让大语言模型扮演不同角色相互协作开发应用或复杂程序。 ChatMLX:多语言支持,兼容多种模型,具有高性能与隐私保障,适用于注重隐私的对话应用开发者。链接:https://github.com/maiqingqiang/ChatMLX
2025-02-17
开源文字转语音
以下是为您提供的开源文字转语音相关信息: WhisperSpeech:通过对 OpenAI Whisper 模型的反向工程实现,生成发音准确、自然的语音输出。 相关链接:https://github.com/collabora/WhisperSpeech 、https://x.com/xiaohuggg/status/1748572050271420663?s=20 StyleTTS 2:一个开源的媲美 Elevenlabs 的文本转语音工具,可结合文本角色内容和场景音快速生成有声小说。 主要特点:多样化的语音风格、更自然的语音、高效生成、精确的语音控制、接近真人的语音合成、适应不同说话者。 工作原理:利用风格扩散和与大型语音语言模型(SLM)的对抗性训练来实现接近人类水平的 TTS 合成,通过扩散模型将风格建模为一个潜在的随机变量,以生成最适合文本的风格,而不需要参考语音,实现了高效的潜在扩散,同时受益于扩散模型提供的多样化语音合成。 相关链接:暂无
2025-02-15
采用GPL许可证的AI开源模型有哪些
以下是一些采用 GPL 许可证的智谱·AI 开源模型: 其他模型: WebGLM10B:利用百亿参数通用语言模型(GLM)提供高效、经济的网络增强型问题解答系统,旨在通过将网络搜索和检索功能集成到预训练的语言模型中,改进现实世界的应用部署。代码链接: WebGLM2B:代码链接无,模型下载: MathGLM2B:在训练数据充足的情况下,20 亿参数的 MathGLM 模型能够准确地执行多位算术运算,准确率几乎可以达到 100%,其结果显著超越最强大语言模型 GPT4 在相同测试数据上 18.84%的准确率。代码链接: MathGLM500M:代码链接无,模型下载: MathGLM100M:代码链接无,模型下载: MathGLM10M:代码链接无,模型下载: MathGLMLarge:采用 GLM 的不同变体作为骨干来训练 MathGLM,包括具有 335M 参数的 GLMlarge 和 GLM10B。此外,还使用 ChatGLM6B 和 ChatGLM26B 作为基座模型来训练 MathGLM。这些骨干模型赋予 MathGLM 基本的语言理解能力,使其能够有效理解数学应用题中包含的语言信息。模型下载: 多模态模型: CogAgent18B:基于 CogVLM17B 改进的开源视觉语言模型。CogAgent18B 拥有 110 亿视觉参数和 70 亿语言参数,支持 11201120 分辨率的图像理解,在 CogVLM 功能的基础上,具备 GUI 图像的 Agent 能力。代码链接:、始智社区 CogVLM17B:强大的开源视觉语言模型(VLM)。基于对视觉和语言信息之间融合的理解,CogVLM 可以在不牺牲任何 NLP 任务性能的情况下,实现视觉语言特征的深度融合。我们训练的 CogVLM17B 是目前多模态权威学术榜单上综合成绩第一的模型,在 14 个数据集上取得了 stateoftheart 或者第二名的成绩。代码链接无,模型下载: Visualglm6B:VisualGLM6B 是一个开源的,支持图像、中文和英文的多模态对话语言模型,语言模型基于 Chat 模型: ChatGLM6Bint4:ChatGLM6B 的 Int4 版本。最低只需 6GB 显存即可部署,最低只需 7GB 显存即可启动微调(,模型权重下载链接:魔搭社区、始智社区、启智社区 ChatGLM6Bint8:ChatGLM6B 的 Int8 版本。上下文 token 数:2K,代码链接:,模型权重下载链接:魔搭社区、始智社区、启智社区 AgentLM7B:1. 提出了一种 AgentTuning 的方法;2. 开源了包含 1866 个高质量交互、6 个多样化的真实场景任务的 Agent 数据集 AgentInstruct;3. 基于上述方法和数据集,利用 Llama2 微调了具备超强 Agent 能力的 AgentLM7B、AgentLM13B、AgentLM70B。上下文 token 数:4K,代码链接: AgentLM13B:上下文 token 数:4K,代码链接无,模型权重下载链接: AgentLM70B:上下文 token 数:8K,代码链接无,模型权重下载链接:
2025-02-14
开源模型的MIT模式、Apache、GPL、BSD模式的模型案例有哪些?
目前开源模型的 MIT 模式、Apache、GPL、BSD 模式的具体案例众多且不断更新。MIT 模式的开源模型如 TensorFlow Lite;Apache 模式的有 MXNet;GPL 模式的像 Gnuplot;BSD 模式的例如 OpenCV 等。但请注意,这只是其中的一部分,实际情况可能会有所变化。
2025-02-14
开源模型的MIT模式、Apache、GPL、BSD模式的定义和区别
MIT 模式:这是一种相对宽松的开源许可模式。允许使用者对软件进行修改、再发布,并且几乎没有限制,只要求在再发布时保留原版权声明和许可声明。 Apache 模式:提供了较为宽松的使用条件,允许修改和再发布代码,但要求在修改后的文件中明确注明修改信息。同时,还包含一些专利相关的条款。 GPL 模式:具有较强的传染性和约束性。如果基于 GPL 许可的代码进行修改和再发布,修改后的代码也必须以 GPL 许可发布,以保证代码的开源性和可共享性。 BSD 模式:也是一种较为宽松的许可模式,允许使用者自由地修改和再发布代码,通常只要求保留原版权声明。 总的来说,这些开源许可模式在对使用者的限制和要求上有所不同,您在选择使用开源模型时,需要根据具体需求和项目情况来确定适合的许可模式。
2025-02-14
推荐几款简历生成和润色的AI工具
以下为您推荐几款简历生成和润色的 AI 工具: 1. ResumeMatcher:这是一款 AI 驱动的开源简历优化工具。它能提供智能关键词匹配和深入的分析见解,有助于提升简历通过 ATS 筛选的几率。采用 FastEmbed 计算简历与职位的匹配度,并结合 textacy 提取核心术语,精准优化简历内容。相关链接: 2. 超级简历优化助手:帮助用户优化简历以提高求职成功率。它会分析简历内容并提供优化建议。 3. Napkin:这是一个生成多样风格图表的 AI 工具。可将选中文本转换为 mermaid 格式图表,支持 SVG 渲染,交互流畅且模板丰富。后台可能使用轻量模型(如 GPT4 mini),自动选择图标,生成多套模板供选择。当前免费,设计精美,适合需要快速生成图表的用户。相关链接:
2025-02-14
介绍几款能对YOUTUBE视频实时同声传译的AI工具,并提供使用教程,适合新手小白学习使用
以下为您介绍几款能对 YouTube 视频实时同声传译的 AI 工具及使用教程: 1. 沉浸式翻译: 主打在所有网页双语翻译、PDF 文档对照阅读。 可以一键开启网页中 YouTube 视频的双语字幕,解决了 YouTube 自带字幕翻译点击路径长的问题。 插件安装地址:https://immersivetranslate.com/ 2. 微软 Stream 中的 Copilot: 可以帮助您理解视频内容,询问并跳转到对应时间点。 此外,Youtube 还更新了五款针对创作者的 AI 工具,虽然并非完全是实时同声传译工具,但也可能对您有所帮助: 1. Dream Screen:将 AI 生成的图像或视频背景添加到 YouTube Shorts 中。 2. YouTube Create:使用新的编辑和制作应用程序编辑手机中的视频。 3. AI Insights:根据观众已在 YouTube 上观看的内容获取视频创意和大纲建议。 4. Aloud:使用自动配音工具轻松创建更多语言的内容。 5. 创作者音乐中的辅助搜索:使用这款人工智能辅助搜索工具为您的视频找到完美的配乐。 详细介绍:https://blog.google/products/youtube/youtubenewcreatortools2023/
2025-02-09
介绍几款实能对YOUTUBE视频实时同时传译的AI工具,并提供使用教程,适合新手小白学习使用
以下为您介绍几款能够对 YouTube 视频实时同时传译的 AI 工具及使用教程,适合新手小白学习使用: 1. 沉浸式翻译: 主打在所有网页双语翻译、PDF 文档对照阅读。 可以一键开启网页中 YouTube 视频的双语字幕,解决了 YouTube 自带字幕翻译点击路径长的问题。 插件安装地址:https://immersivetranslate.com/ 2. Kimi: 由月之暗面科技有限公司开发。 最大特点在于超长文本(支持最多 20 万字的输入和输出)的处理和基于文件、链接内容对话的能力。 用户可以上传多种格式文件,Kimi AI 能够阅读并理解相关内容,为用户提供基于文件内容的回复。
2025-02-09
请问 有哪几款ai是可以使用claude语言的呢?
Claude 是由 Anthropic 公司开发的 AI 助手。目前,Claude 本身就是一款独立的 AI,不存在其他可以使用 Claude 语言的 AI。 要注册 Claude.ai,您可以按照以下步骤进行: 1. 访问 Claude 的官方网站。 2. 点击注册或登录界面中的“Sign Up”或“Continue with email”选项。 3. 填写您的邮箱地址并设置密码,然后提交表单。 4. 系统会向您的邮箱发送一封验证邮件,您需要打开邮件并使用其中的验证码来完成邮箱验证。 如果在注册过程中遇到需要海外手机号接收验证码的问题,以下是一些可能的解决方案: 1. 使用虚拟海外号服务,如 SMSActivate、SMSPool 等,购买一个海外虚拟手机号来接收 Claude 的验证码。 2. 借助第三方服务网站如 uiuihao.com 完成注册您的 Claude 账号。 3. 如果您有海外朋友,可以请他们帮忙接收验证码,并将验证码告诉您。 完成注册后,如果您希望升级到 Claude Pro 版本以获取更强大的功能和更高的 API 调用限额,您需要填写支付信息并选择一个合适的订阅计划。值得注意的是,订阅 Claude Pro 可能需要使用海外支付方式。 请注意,Claude.ai 目前处于公开测试阶段,未付费用户使用平台可能会受到一些限制。如果您在注册过程中遇到任何问题,可以参考其他用户分享的详细注册教程和解决策略。
2025-01-23
推荐几款AIppt工具
以下为您推荐几款 AI PPT 工具: 1. Gamma:从审美角度来看,只要提供内容框架,生成的 PPT/网页审美水平较高。访问链接:https://gamma.app/ 2. AiPPT:爱设计推出的 AI 大模型与 PPT 场景深度结合的产品,能够一键生成专业 PPT,提供丰富模板和低创作门槛。 3. iSlide:有助于提高制作 PPT 的效率。 4. 创客贴:可辅助完成 PPT 制作。 使用这些 AI PPT 工具具有以下优点: 1. 对文本的多级排列有了更高的要求。 2. 便于摒弃呆板单调的表现形式,一键切换多元模版。 3. 熟练使用后,有助于提高效率。 4. 最终的呈现效果可由操作者决定。
2025-01-16
推荐几款陪练ai机器人,用于员工培训
以下为您推荐用于员工培训的陪练 AI 机器人: Coze 平台的英语陪练 AI Bot: 首先打开扣子的首页,直接点击左上角的创建 AI Bot 按钮。 在弹窗输入 Bot 的相关信息即可完成创建,接下来可细化其功能。 根据功能需求设计人设与回复逻辑。 基于需求调整模型设置,比如将对话轮数改为 20 轮。 主要使用了英文名言警句等插件。 设置开场白和预置问题,预置问题有参考价值。 最后设置 AI Bot 的语音,选择亲切的英语音色。 使用建议:直接使用豆包的语音通话方式,效果更好。 实际演示效果:包括视频演示、文字交流中的训练纠错、解读上传图片或文件的英文内容(目前支持在 Coze 端使用,豆包端暂不支持)。 试用链接:Coze 端
2024-12-30