Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

如何从零到一学习LLM上层AI应用开发

Answer

从零到一学习 LLM 上层 AI 应用开发，您可以参考以下步骤：

  1. 掌握深度学习和自然语言处理基础：
    • 学习机器学习、深度学习、神经网络等基础理论。
    • 掌握自然语言处理基础，如词向量、序列模型、注意力机制等。
    • 相关课程：吴恩达的深度学习课程、斯坦福 cs224n 等。
  2. 理解 Transformer 和 BERT 等模型原理：
    • 熟悉 Transformer 模型架构及自注意力机制原理。
    • 掌握 BERT 的预训练和微调方法。
    • 阅读相关论文，如 Attention is All You Need、BERT 论文等。
  3. 学习 LLM 模型训练和微调：
    • 进行大规模文本语料预处理。
    • 熟悉 LLM 预训练框架，如 PyTorch、TensorFlow 等。
    • 学会微调 LLM 模型进行特定任务迁移。
    • 相关资源：HuggingFace 课程、论文及开源仓库等。
  4. LLM 模型优化和部署：
    • 掌握模型压缩、蒸馏、并行等优化技术。
    • 了解模型评估和可解释性。
    • 熟悉模型服务化、在线推理、多语言支持等。
    • 相关资源：ONNX、TVM、BentoML 等开源工具。
  5. LLM 工程实践和案例学习：
    • 结合行业场景，进行个性化的 LLM 训练。
    • 分析和优化具体 LLM 工程案例。
    • 研究 LLM 新模型、新方法的最新进展。
  6. 持续跟踪前沿发展动态：
    • 关注顶会最新论文、技术博客等资源。

以下是一些相关的学习资源：

在课程方面，欢迎来到针对开发者的 AIGPT 提示工程课程。该课程将分享软件开发最佳实践的提示，涵盖常见用例，包括总结、推理、转换和扩展，并指导使用 LLM 构建一个聊天机器人。在大型语言模型或 LLM 的开发中，大体上有基础 LLM 和指令调整后的 LLM 两种类型。基础 LLM 已训练出根据文本训练数据预测下一个单词，通常在大量数据上训练，以找出接下来最有可能的单词。

Content generated by AI large model, please carefully verify (powered by aily)

References

问：怎么系统学习 llm 开发？

学习大型语言模型（LLM）的开发是一个系统性的过程，需要涵盖多个方面的知识和技能。以下是一些建议的学习路径和资源：1.掌握深度学习和自然语言处理基础-机器学习、深度学习、神经网络等基础理论-自然语言处理基础，如词向量、序列模型、注意力机制等-相关课程：吴恩达的深度学习课程、斯坦福cs224n等2.理解Transformer和BERT等模型原理-Transformer模型架构及自注意力机制原理-BERT的预训练和微调方法-掌握相关论文，如Attention is All You Need、BERT论文等3.学习LLM模型训练和微调-大规模文本语料预处理-LLM预训练框架，如PyTorch、TensorFlow等-微调LLM模型进行特定任务迁移-相关资源：HuggingFace课程、论文及开源仓库等4.LLM模型优化和部署-模型压缩、蒸馏、并行等优化技术-模型评估和可解释性-模型服务化、在线推理、多语言支持等-相关资源：ONNX、TVM、BentoML等开源工具5.LLM工程实践和案例学习-结合行业场景，进行个性化的LLM训练-分析和优化具体LLM工程案例-研究LLM新模型、新方法的最新进展6.持续跟踪前沿发展动态-关注顶会最新论文、技术博客等资源

LLM开源中文大语言模型及数据集集合

面向开发者的LLM入门课程：地址：[https://github.com/datawhalechina/prompt-engineering-for-developers](https://github.com/datawhalechina/prompt-engineering-for-developers)简介：一个中文版的大模型入门教程，围绕吴恩达老师的大模型系列课程展开，主要包括：吴恩达《ChatGPT Prompt Engineering for Developers》课程中文版，吴恩达《Building Systems with the ChatGPT API》课程中文版，吴恩达《LangChain for LLM Application Development》课程中文版等。提示工程指南:地址：[https://www.promptingguide.ai/zh](https://www.promptingguide.ai/zh)简介：该项目基于对大语言模型的浓厚兴趣，编写了这份全新的提示工程指南，介绍了大语言模型相关的论文研究、学习指南、模型、讲座、参考资料、大语言模型能力以及与其他与提示工程相关的工具。LangChain🦜️🔗中文网，跟着LangChain一起学LLM/GPT开发：地址：[https://www.langchain.asia](https://www.langchain.asia/)简介：Langchain的中文文档，由是两个在LLM创业者维护，希望帮助到从刚进入AI应用开发的朋友们。LLMs九层妖塔：地址：[https://github.com/km1994/LLMsNineStoryDemonTower](https://github.com/km1994/LLMsNineStoryDemonTower)简介：ChatGLM、Chinese-LLaMA-Alpaca、MiniGPT-4、FastChat、LLaMA、gpt4all等实战与经验。

1.课程简介

欢迎来到这门针对开发者的AIGPT提示工程课程。我很高兴能够与Isa Fulford一起授课。她是OpenAI的技术团队成员，她开发了流行的AIGPT检索插件，同时也教授人们如何在产品中使用LLM或大型语言模型技术，也为OpenAI食谱做出贡献。我很高兴能和她一起授课。同时我也很高兴在这里与大家分享一些提示最佳实践。实际上，关于提示已经有了很多互联网上的材料，例如“30个人人都必须知道的提示”。很多焦点都放在了AIGPT的Web版界面上，这使得很多人只用于完成特定的任务，而且经常是一次性的。但我认为，LLM大型语言模型作为一名开发人员的强大之处在于使用API调用LLM快速构建软件应用程序。实际上，AI Fund在我的团队与DeepLearning.AI的姊妹公司合作，为很多创业公司应用这些技术到许多不同的应用领域，看到LLM API可以使开发人员非常快速地构建应用程序实属令人兴奋。因此，在这门课程中，我们将与您分享一些您可以做到什么的可能性，以及如何最佳实践地完成这些任务。有很多要涵盖的内容。首先，你将学习一些软件开发最佳实践的提示。然后，我们将涵盖一些常见的用例，包括总结、推理、转换和扩展。接着，你将使用LLM构建一个聊天机器人。我们希望这会激发你的想象力，并能够创建出新的应用程序。在大型语言模型或LLM的开发中，大体上有两种类型的LLM，我将其称为基础LLM和指令调整后的LLM。因此，基础LLM已经训练出来根据文本训练数据预测下一个单词。通常是在互联网和其他来源的大量数据上进行训练，以找出接下来最有可能的单词。例如，如果你提示“一次有一个独角兽”，它可能会继续完整这个句子，预测出接下来的几个单词是“和所有的独角兽朋友生活在一个神奇的森林里”。但如果你提示“法国的首都是什么”，那么LLM可能会给出正确的回答“巴黎”，或者可能会给出错误的回答。训练后的LLM可以接收新的提示作为输入，并输出预测结果。

Others are asking
怎么学习AI提示词？？
以下是关于学习 AI 提示词的建议： 1. 了解 AI 基本概念：建议阅读「」部分，熟悉 AI 的术语和基础概念，包括其主要分支（如机器学习、深度学习、自然语言处理等）以及它们之间的联系。同时，浏览入门文章，了解 AI 的历史、当前应用和未来发展趋势。 2. 开始 AI 学习之旅：在「」中，您可以找到为初学者设计的课程，特别推荐李宏毅老师的课程。还可以通过在线教育平台（如 Coursera、edX、Udacity）按照自己的节奏学习，并获得证书。 3. 选择感兴趣的模块深入学习：AI 领域广泛，您可以根据兴趣选择特定模块，比如一定要掌握提示词的技巧，它上手容易且很有用。 4. 实践和尝试：理论学习后，实践是巩固知识的关键。尝试使用各种产品做出作品，在知识库中也有很多实践后的作品和文章分享。 5. 体验 AI 产品：与现有的 AI 产品（如 ChatGPT、Kimi Chat、智谱、文心一言等）进行互动，了解其工作原理和交互方式。 6. 学习提示词的构建技巧： 理解提示词的作用，它向模型提供上下文和指示，影响模型输出质量。 明确任务目标，用简洁准确的语言描述，给予足够背景信息和示例，使用清晰指令，对特殊要求明确指示，如输出格式、字数限制等。 7. 参考优秀案例：研究和学习已有的优秀提示词案例，在领域社区、Github 等资源中可找到大量案例。 8. 实践、迭代、优化：多与语言模型互动，根据输出提高提示词质量，尝试各种变体，比较分析输出差异，持续优化提示词构建。 9. 活用提示工程工具：目前已有一些提示工程工具可供使用，如 Anthropic 的 Constitutional AI。 10. 跟上前沿研究：提示工程是前沿研究领域之一，持续关注最新研究成果和方法论。 精心设计的提示词能最大限度发挥语言模型的潜力，多实践、多学习、多总结，终可掌握窍门。
2025-01-31
AI的发展历史
AI 的发展历史可以追溯到二十世纪中叶，大致经历了以下几个阶段： 1. 早期阶段（1950s 1960s）：包括专家系统、博弈论、机器学习初步理论等。心理学家麦卡洛克和数学家皮特斯在 1943 年提出了机器的神经元模型，为后续的神经网络奠定了基础。1950 年，图灵最早提出了图灵测试，作为判别机器是否具备智能的标准。1956 年，马文·明斯基和约翰·麦凯西等人共同发起召开了著名的达特茅斯会议，“人工智能”一词被正式提出，并作为一门学科被确立下来。 2. 知识驱动时期（1970s 1980s）：这一时期专家系统、知识表示、自动推理较为流行。 3. 统计学习时期（1990s 2000s）：机器学习算法如决策树、支持向量机、贝叶斯方法等得到发展。 4. 深度学习时期（2010s 至今）：深度神经网络、卷积神经网络、循环神经网络等技术兴起。当前的前沿技术点包括大模型（如 GPT、PaLM 等）、多模态 AI（视觉 语言模型、多模态融合）、自监督学习（自监督预训练、对比学习、掩码语言模型等）、小样本学习（元学习、一次学习、提示学习等）、可解释 AI（模型可解释性、因果推理、符号推理等）、机器人学（强化学习、运动规划、人机交互等）、量子 AI（量子机器学习、量子神经网络等）、AI 芯片和硬件加速等。 然而，AI 的发展并非一帆风顺，20 世纪 70 年代曾出现“人工智能寒冬”，因为当时符号推理等方法在实现应用场景大规模拓展时面临诸多困难。但随着计算资源变得便宜、数据增多，神经网络方法在计算机视觉、语音理解等领域展现出卓越性能，在过去十年中，“人工智能”一词常被用作“神经网络”的同义词。
2025-01-31
我是一名会计从业者，可以怎样利用AI赚钱
作为一名会计从业者，您可以通过以下方式利用 AI 赚钱： 1. 利用生成式 AI 改进金融服务团队的内部流程，简化财务团队的日常工作流程。例如，帮助编写 Excel、SQL 和 BI 工具中的公式和查询，实现分析的自动化；发现模式，并从更广泛、更复杂的数据集中为预测建议输入，为公司决策提供依据。 2. 借助生成式 AI 自动创建文本、图表、图形等内容，并根据不同的示例调整报告，无需手动将数据和分析整合到外部和内部报告中。 3. 利用生成式 AI 综合、总结税法和潜在的扣除项，并就其提出可能的答案。 4. 利用生成式 AI 自动生成和调整合同、采购订单和发票以及提醒。 此外，您还可以研究 Prompt 提示词，例如像雪梅 May 那样，尝试不同的方法，让 AI 识别会计分类，训练出一个在会计专业领域能提高效率的 AI。
2025-01-31
总结一下当前AI发展现状以及指导非开发者一类的普通用户如何使用及进阶使相关工具
当前 AI 发展现状： 涵盖了不同领域的应用和发展，如电子小说行业等。 包括了智能体的 API 调用、bot 串联和网页内容推送等方面。 对于非开发者一类的普通用户使用及进阶相关工具的指导： 可以先从国内模型工具入手，这些工具不花钱。 学习从提示词开始，与模型对话时要把话说清，强调提示词在与各类模型对话中的重要性及结构化提示词的优势。 对于技术爱好者：从小项目开始，如搭建简单博客或自动化脚本；探索 AI 编程工具，如 GitHub Copilot 或 Cursor；参与 AI 社区交流经验；构建 AI 驱动的项目。 对于内容创作者：利用 AI 辅助头脑风暴；建立 AI 写作流程，从生成大纲开始；进行多语言内容探索；利用 AI 工具优化 SEO。 若想深入学习美学概念和操作可报野菩萨课程。国内模型指令遵循能力较弱时，可使用 launch BD 尝试解决。
2025-01-31
怎么制作一个AI agent？
制作一个 AI Agent 通常有以下几种方式和步骤： 方式： 1. Prompttuning：通过 Prompt 来构建大脑模块，但一般适合拟人化不是很重的情况，其缺点是使用的 Prompt 越长，消耗的 Token 越多，推理成本较高。 2. Finetuning：针对“有趣的灵魂”，通过微调一个定向模型来实现，能将信息直接“记忆”在 AI 的“大脑模块”中，提高信息提取效率，减少处理数据量，优化性能和成本。 3. Prompttuning + Finetuning：对于复杂情况，一般是两种方式结合。 步骤（以工作流驱动的 Agent 为例）： 1. 规划： 制定任务的关键方法。 总结任务目标与执行形式。 将任务分解为可管理的子任务，确立逻辑顺序和依赖关系。 设计每个子任务的执行方法。 2. 实施： 在 Coze 上搭建工作流框架，设定每个节点的逻辑关系。 详细配置子任务节点，并验证每个子任务的可用性。 3. 完善： 整体试运行 Agent，识别功能和性能的卡点。 通过反复测试和迭代，优化至达到预期水平。
2025-01-31
ai发展现状
目前 AI 的发展现状呈现出以下特点： 1. 持续学习和跟进是关键：AI 是快速发展的领域，新成果和技术不断涌现。要通过关注新闻、博客、论坛和社交媒体，加入社群和组织，参加研讨会等方式保持对最新发展的了解。 2. 《2024 年度 AI 十大趋势报告》发布：从技术、产品、行业三个维度勾勒 AI 现状和未来走势，基于长期理解和积淀，持续跟踪领域创新、洗牌和动态，并结合与众多机构的交流。 3. 2024 年人工智能现状： 更多资金投入：预计明年会有团队花费超 10 亿美元训练单个大型模型，生成式 AI 热潮持续且更“奢华”。 计算压力挑战：政府和大型科技公司承受计算需求压力，逼近电网极限。 AI 介入选举：虽预期影响尚未成真，但不能掉以轻心。 总之，人工智能领域充满惊喜、伦理挑战和大量资金，各方势力竞相角逐，像一场激动人心的 UFC 比赛。
2025-01-31
从零到一的 LLM 学习教程
以下是从零到一学习 LLM 的教程： 1. 掌握深度学习和自然语言处理基础： 学习机器学习、深度学习、神经网络等基础理论。 掌握自然语言处理基础，如词向量、序列模型、注意力机制等。 相关课程：吴恩达的深度学习课程、斯坦福 cs224n 等。 2. 理解 Transformer 和 BERT 等模型原理： 了解 Transformer 模型架构及自注意力机制原理。 掌握 BERT 的预训练和微调方法。 阅读相关论文，如 Attention is All You Need、BERT 论文等。 3. 学习 LLM 模型训练和微调： 进行大规模文本语料预处理。 运用 LLM 预训练框架，如 PyTorch、TensorFlow 等。 微调 LLM 模型进行特定任务迁移。 相关资源：HuggingFace 课程、论文及开源仓库等。 4. LLM 模型优化和部署： 掌握模型压缩、蒸馏、并行等优化技术。 进行模型评估和可解释性研究。 实现模型服务化、在线推理、多语言支持等。 相关资源：ONNX、TVM、BentoML 等开源工具。 5. LLM 工程实践和案例学习： 结合行业场景，进行个性化的 LLM 训练。 分析和优化具体 LLM 工程案例。 研究 LLM 新模型、新方法的最新进展。 6. 持续跟踪前沿发展动态： 关注顶会最新论文、技术博客等资源。 此外，为您推荐以下 LLM 开源中文大语言模型及数据集集合的学习资源： 1. 面向开发者的 LLM 入门课程： 地址： 简介：一个中文版的大模型入门教程，围绕吴恩达老师的大模型系列课程展开，主要包括：吴恩达《ChatGPT Prompt Engineering for Developers》课程中文版，吴恩达《Building Systems with the ChatGPT API》课程中文版，吴恩达《LangChain for LLM Application Development》课程中文版等。 2. 提示工程指南： 地址： 简介：该项目基于对大语言模型的浓厚兴趣，编写了这份全新的提示工程指南，介绍了大语言模型相关的论文研究、学习指南、模型、讲座、参考资料、大语言模型能力以及与其他与提示工程相关的工具。 3. LangChain🦜️🔗中文网，跟着 LangChain 一起学 LLM/GPT 开发： 地址： 简介：Langchain 的中文文档，由是两个在 LLM 创业者维护，希望帮助到从刚进入 AI 应用开发的朋友们。 4. LLMs 九层妖塔： 地址： 简介：ChatGLM、ChineseLLaMAAlpaca、MiniGPT4、FastChat、LLaMA、gpt4all 等实战与经验。 关于 LLM 的预测原理： LLM 接触了包括教科书、文章、网站等在内的庞大数据集。在训练阶段，它们学会了理解语言的上下文和流动性，掌握了包括语法、风格，甚至是文本的语调等方面。当您用一个句子或问题来指导 LLM 时，它便利用自己所学的知识，预测接下来最可能的一个或几个词。这不仅是基于它在训练期间观察到的模式和规则的推测。 在提示工程方面，鉴于 LLM 的概率本质，提示工程师面临的挑战是如何引导 LLM 向着高度可预测和准确的结果方向发展。在相关课程中，您将学习许多技巧，这些技巧将帮助您掌握高度可预测的 LLM 输出结果的艺术和科学。但在深入学习之前，可以先从一些简单的练习开始，激活思维。
2025-01-28
llm cookbook 有资源吗
以下是关于 LLM 学习资源和 OpenAI Cookbook 的相关信息： 学习大型语言模型（LLM）开发的资源和路径： 1. 掌握深度学习和自然语言处理基础： 机器学习、深度学习、神经网络等基础理论。 自然语言处理基础，如词向量、序列模型、注意力机制等。 相关课程：吴恩达的深度学习课程、斯坦福 cs224n 等。 2. 理解 Transformer 和 BERT 等模型原理： Transformer 模型架构及自注意力机制原理。 BERT 的预训练和微调方法。 掌握相关论文，如 Attention is All You Need、BERT 论文等。 3. 学习 LLM 模型训练和微调： 大规模文本语料预处理。 LLM 预训练框架，如 PyTorch、TensorFlow 等。 微调 LLM 模型进行特定任务迁移。 相关资源：HuggingFace 课程、论文及开源仓库等。 4. LLM 模型优化和部署： 模型压缩、蒸馏、并行等优化技术。 模型评估和可解释性。 模型服务化、在线推理、多语言支持等。 相关资源：ONNX、TVM、BentoML 等开源工具。 5. LLM 工程实践和案例学习： 结合行业场景，进行个性化的 LLM 训练。 分析和优化具体 LLM 工程案例。 研究 LLM 新模型、新方法的最新进展。 6. 持续跟踪前沿发展动态： 关注顶会最新论文、技术博客等资源。 OpenAI Cookbook 资源： 如需更多灵感，请访问，其中包含示例代码以及指向第三方资源的链接，例如： 1. 2. 3. 4. 此外，还有 LLM 开源中文大语言模型及数据集集合中的相关资源： HuggingLLM： 地址： 简介：介绍 ChatGPT 原理、使用和应用，降低使用门槛，让更多感兴趣的非 NLP 或算法专业人士能够无障碍使用 LLM 创造价值。 OpenAI Cookbook： 地址： 简介：该项目是 OpenAI 提供的使用 OpenAI API 的示例和指导，其中包括如何构建一个问答机器人等教程，能够为从业人员开发类似应用时带来指导。
2025-01-14
Llm studio 联网搜索
以下是关于 LLM studio 联网搜索的相关内容： Cursor 方面： Cursor 适用于多种编程场景，如问答。在问答场景中，LLM 支持联网功能后，如 Claude、ChatGPT、Perplexity 等平台可咨询技术问题，能自动提炼关键字、联网搜索并总结分析搜索结果返回简洁答案，但答案置信率不高，而 Cursor 的上下文符号引用能力（如@Codebase 符号索引整个仓库）弥补了这一点，其将整个仓库 Embedding 成向量数据库供 LLM 消费，具备极强的私域知识理解能力，还能高效地帮用户分析总结各类项目的底层原理。 LLM Agent 方面： 工作步骤包括接收指令（用户通过文本、语音等方式发出指令或提出问题）、数据处理与理解（利用内部大语言模型解析用户输入，提取关键信息）、生成响应与执行任务（根据用户需求生成回答或采取行动，如查询数据库、搜索网络等）、输出结果（通过文本或语音将生成的结果反馈给用户）。 AIGC Weekly34 方面： 提出将 LLM 与互联网上的高质量内容结合来修复信息生态系统的问题，如 Metaphor 希望恢复搜索的神奇感，发布了 Metaphor API 用于将 LLM 连接到互联网。 介绍了 StarCraft II 作为强化学习环境的相关论文，提出了 AlphaStar Unplugged 基准测试。 提到了名为 Glean 的 AI 搜索工具能帮助用户在工作场景中进行搜索和优化，还讨论了人工智能人格模拟相关内容，如语言模型如何模拟和改变人格等。
2025-01-13
LLM输出的结果一致性如何保证
要保证 LLM 输出结果的一致性，可以采取以下几种策略： 1. Prompt 工程： 明确的待处理内容指引：在构建 Prompt 时，清晰地定义需要处理的文本，并使用标记框起来，让模型准确识别待处理内容范围，从中提取信息。 提供明确字段定义：具体化每个字段的名称、用途及要求，为 LLM 提供明确的提取方向和标准。 异常处理：设置异常处理原则，如规定缺失数据使用默认值填充，特殊数据类型符合标准格式，确保模型输出的完整性和一致性。 要求结构化输出：指示 LLM 以结构化格式（如 JSON）输出数据，便于后续处理和系统集成。 2. 自我一致性增强可靠性：促使 LLM 对同一问题产生多个答案，通过一致性审查衡量其可信度。一致性评估可从内容重叠、语义相似性评估及高级指标（如 BERT 分数或 ngram 重叠）等多方面进行，增强 LLM 在事实核查工具中的可靠性。 3. 衡量和评估不确定性：如牛津大学通过生成一个问题的多个答案，并使用另一个模型根据相似含义分组来衡量 LLM 不确定性。 4. 利用外部工具验证：如 Google DeepMind 推出的 SAFE，通过将 LLM 响应分解为单个事实、使用搜索引擎验证事实以及对语义相似的陈述进行聚类来评估 LLM 响应的真实性。 5. 借助其他 LLM 发现错误：如 OpenAI 推出的 CriticGPT，使用基于大量有缺陷输入数据集训练的 GPT 式 LLM 来发现其他 LLM 生成代码中的错误。 6. 利用 LLM 生成的评论增强 RLHF 的奖励模型：如 Cohere 使用一系列 LLM 为每个偏好数据对生成逐点评论，评估提示完成对的有效性。
2025-01-02
LLM是什么？
LLM（语言逻辑模型）是 LangChain 平台与各种大模型进行交互的核心模型，是一个能够处理语言输入和输出的抽象概念，可以理解为一个黑盒。 其输入是一个字符串，表示用户的请求或问题，输出也是一个字符串，表示模型的回答或结果。LLM 能根据不同输入调用不同大模型来完成不同语言任务，如文本生成、文本理解、文本翻译等。 从大模型的整体架构来看，LLM 处于模型层，例如 GPT 就是一种常见的 LLM，一般使用 transformer 算法实现。 LLM 的工作原理是像输入法的输入联想逻辑一样，一个字一个字地推理生成内容。通过将上下文加入输入，能帮助模型理解下一个字。但存在计算时带入全量数据算力吃不消以及仅算字的概率易被不相干信息干扰的问题，词向量机制和 transformer 模型中的 attention 自注意力机制解决了这些难题。
2025-01-02
如何在本地部署LLM，然后完成某个专业或者主题的专业知识库训练
以下是在本地部署 LLM 并完成某个专业或主题的专业知识库训练的详细步骤： 1. 部署大语言模型： 下载并安装 Ollama：根据电脑系统，点击进入 https://ollama.com/download 下载，下载完成后双击打开，点击“Install”。安装完成后，将 http://127.0.0.1:11434/ 复制进浏览器，若出现相关字样则表示安装完成。 下载 qwen2:0.5b 模型：如果是 Windows 电脑，点击 win+R，输入 cmd 点击回车；如果是 Mac 电脑，按下 Command（⌘）+Space 键打开 Spotlight 搜索，输入“Terminal”或“终端”，然后从搜索结果中选择“终端”应用程序。复制相关命令行粘贴进入并回车，等待自动下载完成。 2. 安装 Docker Desktop： 点击去下载，根据系统进行选择。以 Windows 系统为例，点击 https://docs.docker.com/desktop/install/windowsinstall/ 下载，双击下载项目，点击 ok 加载文件，点击“close and restart”重启电脑。重启后，点击“Accept”，选择第二个，点击"Finish"，进入 Docker Desktop。 3. 部署 FastGPT+OneAPI： 在桌面按住“shift”+鼠标右键，选择“在此处打开 Powershell 窗口”，在窗口中一行一行输入并回车。等待上方命令执行完成，下载完成之后。回到桌面，打开 FastGPT 文件夹，右键 dockercompose.yml 文件，选择打开方式为记事本打开，查找并修改相关内容后保存。回到命令行窗口中，继续输入并回车。 4. 配置 OneAPI： 在浏览器中输入：http://localhost:3001 ，进入登录页，账号 root 密码 123456 点击登录。点击【渠道】【添加新的渠道】，类型选择 Ollama，名称设为 qwen2，模型设为 qwen2:0.5b，秘钥设为 sksky，代理设为 http://host.docker.internal:11434 ，点击提交。点击【令牌】【添加新令牌】，名称随意，时间设为永不过期、额度设为无限额度，点击【提交】，点击【令牌】复制 key。 5. 配置 FastGPT： 回到 FastGPT 文件夹里，用记事本打开“dockercompose.yml”文件，查找并修改相关内容后保存。打开 config.json，根据图示修改完成，把相关数值改成 1500 左右。在命令窗口中输入：docker compose down 等待执行完成，再输入：docker compose upd 等待执行完成。在浏览器上输入：http://localhost:3000 ，账号 root 密码 1234 点击进入，设置好后点击确定。发布 API 并创建一个 key。
2025-01-02
我想用AI完成一个编程项目，帮我从零到一完成一个个人介绍网站，我现在使用vo.dev完成了一个网站，但是不可以供我使用我上传github后再vercel运行发现会出现404请问我该怎么办
很抱歉，暂时没有关于您所描述问题的相关内容。出现 404 错误通常是由于页面未找到导致的。您可以先检查一下以下几个方面： 1. 确认您在 GitHub 上的代码上传是否完整且正确，包括相关的配置文件和依赖项。 2. 检查 Vercel 的部署设置，确保配置正确，例如域名绑定、环境变量等。 3. 查看服务器的日志，以获取更详细的错误信息，从而确定问题的具体原因。 希望这些建议能对您有所帮助，如果问题仍未解决，建议您进一步查阅相关的技术文档或向技术社区寻求帮助。
2024-12-19