Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

llm cookbook 有资源吗

Answer

以下是关于 LLM 学习资源和 OpenAI Cookbook 的相关信息：

学习大型语言模型（LLM）开发的资源和路径：

  1. 掌握深度学习和自然语言处理基础：
    • 机器学习、深度学习、神经网络等基础理论。
    • 自然语言处理基础，如词向量、序列模型、注意力机制等。
    • 相关课程：吴恩达的深度学习课程、斯坦福 cs224n 等。
  2. 理解 Transformer 和 BERT 等模型原理：
    • Transformer 模型架构及自注意力机制原理。
    • BERT 的预训练和微调方法。
    • 掌握相关论文，如 Attention is All You Need、BERT 论文等。
  3. 学习 LLM 模型训练和微调：
    • 大规模文本语料预处理。
    • LLM 预训练框架，如 PyTorch、TensorFlow 等。
    • 微调 LLM 模型进行特定任务迁移。
    • 相关资源：HuggingFace 课程、论文及开源仓库等。
  4. LLM 模型优化和部署：
    • 模型压缩、蒸馏、并行等优化技术。
    • 模型评估和可解释性。
    • 模型服务化、在线推理、多语言支持等。
    • 相关资源：ONNX、TVM、BentoML 等开源工具。
  5. LLM 工程实践和案例学习：
    • 结合行业场景，进行个性化的 LLM 训练。
    • 分析和优化具体 LLM 工程案例。
    • 研究 LLM 新模型、新方法的最新进展。
  6. 持续跟踪前沿发展动态：
    • 关注顶会最新论文、技术博客等资源。

OpenAI Cookbook 资源： 如需更多灵感，请访问OpenAI Cookbook，其中包含示例代码以及指向第三方资源的链接，例如：

  1. 提示库和工具
  2. 提示指南
  3. 视频课程
  4. 关于改进推理的高级提示的论文

此外，还有 LLM 开源中文大语言模型及数据集集合中的相关资源： HuggingLLM：

OpenAI Cookbook：

  • 地址：https://github.com/openai/openai-cookbook
  • 简介：该项目是 OpenAI 提供的使用 OpenAI API 的示例和指导，其中包括如何构建一个问答机器人等教程，能够为从业人员开发类似应用时带来指导。
Content generated by AI large model, please carefully verify (powered by aily)

References

问：怎么系统学习 llm 开发？

学习大型语言模型（LLM）的开发是一个系统性的过程，需要涵盖多个方面的知识和技能。以下是一些建议的学习路径和资源：1.掌握深度学习和自然语言处理基础-机器学习、深度学习、神经网络等基础理论-自然语言处理基础，如词向量、序列模型、注意力机制等-相关课程：吴恩达的深度学习课程、斯坦福cs224n等2.理解Transformer和BERT等模型原理-Transformer模型架构及自注意力机制原理-BERT的预训练和微调方法-掌握相关论文，如Attention is All You Need、BERT论文等3.学习LLM模型训练和微调-大规模文本语料预处理-LLM预训练框架，如PyTorch、TensorFlow等-微调LLM模型进行特定任务迁移-相关资源：HuggingFace课程、论文及开源仓库等4.LLM模型优化和部署-模型压缩、蒸馏、并行等优化技术-模型评估和可解释性-模型服务化、在线推理、多语言支持等-相关资源：ONNX、TVM、BentoML等开源工具5.LLM工程实践和案例学习-结合行业场景，进行个性化的LLM训练-分析和优化具体LLM工程案例-研究LLM新模型、新方法的最新进展6.持续跟踪前沿发展动态-关注顶会最新论文、技术博客等资源

目录：OpenAI 官方指南

如需更多灵感，请访问[OpenAI Cookbook](https://github.com/openai/openai-cookbook)，其中包含示例代码以及指向第三方资源的链接，例如：[提示库和工具](https://github.com/openai/openai-cookbook#prompting-libraries--tools)[提示指南](https://github.com/openai/openai-cookbook#prompting-guides)[视频课程](https://github.com/openai/openai-cookbook#video-courses)[关于改进推理的高级提示的论文](https://github.com/openai/openai-cookbook#papers-on-advanced-prompting-to-improve-reasoning)

LLM开源中文大语言模型及数据集集合

HuggingLLM：地址：[https://github.com/datawhalechina/hugging-llm](https://github.com/datawhalechina/hugging-llm)简介：介绍ChatGPT原理、使用和应用，降低使用门槛，让更多感兴趣的非NLP或算法专业人士能够无障碍使用LLM创造价值。OpenAI Cookbook：地址：[https://github.com/openai/openai-cookbook](https://github.com/openai/openai-cookbook)简介：该项目是OpenAI提供的使用OpenAI API的示例和指导，其中包括如何构建一个问答机器人等教程，能够为从业人员开发类似应用时带来指导。

Others are asking
notebookllm
NotebookLM 是谷歌推出的一款工具，具有以下特点和用途： 有人称它为笔记工具，有人说它是 AI 学习工具，还有人认为它是播客生成器。 只要上传文档、音频或感兴趣的网页链接，如 YouTube 等，就能轻松生成专业的播客。播客中两个主持人的对话生动自然，包含各种人类的语气和行为。 是 Google AI Lab 开发的笔记应用，基于 Gemini 1.5 Pro 的长文本理解和多模态能力。用户可通过上传文件或链接快速生成笔记和音频内容，适合教育和研究等场景。尽管产品界面设计一般，但其强大的文本理解能力在处理复杂内容时表现突出。支持协作，适合整理公众号文章、编写书稿等多种用途。 体验地址：https://notebooklm.google/
2025-03-22
使用llm的爬虫工具推荐下，开源免费
以下是为您推荐的开源免费的使用 LLM 的爬虫工具： 1. Jina 开源的网页内容爬取工具：Reader API 能从网址提取出核心内容，并将其转化为干净、易于大语言模型处理的文本，确保为您的 AI 智能体及 RAG 系统提供高品质的数据输入。 2. Scrapy 库（Python 语言）：在 crawlab 可以做到分布式爬取，非常高效。 3. GPT Crawler：主要运用 typescript 进行数据爬取。 4. 在开源的项目中，为实现对含有 JavaScript 内容的网页抓取，不使用 Python 自己的 request 库，而是使用 playwright 之类的浏览器，并将网页内容按照一定规则转化成 markdown 格式，方便 LLM 后续的理解和抓取。 同时，对于爬虫工具的选择，还需根据您的具体需求和技术熟悉程度来决定。
2025-03-06
llm项目
以下是一些与 LLM 项目相关的信息： 开源中文大语言模型及数据集集合： LuotuoChineseLLM：地址为，囊括了一系列中文大语言模型开源项目，包含基于已有开源模型进行二次微调的语言模型、指令微调数据集等。 Linly：地址为，提供中文对话模型 LinlyChatFlow、中文基础模型 LinlyChineseLLaMA 及其训练数据。 ChatYuan：地址为，是元语智能发布的一系列支持中英双语的功能型对话语言大模型，在微调数据、人类反馈强化学习、思维链等方面进行了优化。 ChatRWKV：地址为，开源了一系列基于 RWKV 架构的 Chat 模型（包括英文和中文），可以直接闲聊及进行诗歌、小说等创作。 无需微调，仅用提示词工程就能让 LLM 获得 tool calling 的功能：作者 ailm 提出一种仅使用提示词工程和精巧的代码设计，即可让 LLM 获得稳定的 tool calling 能力。使用多个不具备 tool calling 能力的 LLM 作为测试模型，在多个工具调用任务上实验成功率为 100%。工作基于 comfyui 开发，适合无代码基础的人员复现和修改。 XiaoHu.AI 日报 1 月 29 日： LLMsfromscratch 项目：详细解释 LLMs 的工作原理，提供创建自己的 LLM 的逐步指南，适合企业团队、初创公司和教育机构学习。链接： SliceGPT 微软开发的大语言模型压缩方法：在保持高性能的同时大幅减少模型参数，允许在更少的 GPU 上运行，提高运行速度，显著降低在消费级 GPU 上的总计算量。链接： VisualWebArena 自主智能体的视觉网络任务基准测试：评估智能体在网络环境中的规划、推理和执行任务能力，着重于视觉信息的重要性和多模态智能体评估，提供深入的定量和定性分析，揭示 LLM 智能体的限制。链接： 百川智能的 Baichuan 3 模型：中文任务评测表现卓越，超越 GPT4，在医疗领域和中华传统文化理解方面表现突出，引入创新技术，提高训练效率和数据质量。链接： Apple Vision Pro 最新宣传片：链接
2025-03-04
如何写适配多个llm的提示词
以下是关于如何写适配多个 LLM 的提示词的详细内容： 实现原理： 提示词工程主要由两部分代码组成，即提示词注入和工具结果回传。提示词注入用于将工具信息及使用工具的提示词添加到系统提示中，它包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 如何理解和使用工具，编写时应注意用无关紧要的工具作示例以免 LLM 混淆。tools_instructions 是将通用工具字典转换成 LLM 可读的工具列表，实际使用时可动态调整以让 LLM 知晓可用工具及使用方法。REUTRN_FORMAT 定义了调用 API 的格式。工具结果回传则是解析 tool calling 的输出，并将工具返回的内容再次嵌入 LLM，利用正则表达式抓取输出中的“tool”和“parameters”参数，对于 interpreter 工具使用另一种正则表达式提取 LLM 输出的代码，以提高成功率。对于不接受某些角色的 LLM 接口，可改为回传给 user 角色。 相关成果： 目前绝大多数小型本地开源大语言模型以及部分商用大模型接口不支持稳定的 tool calling 功能，现有的微调 LLM 解决方案会浪费大量时间和算力。本文提出仅使用提示词工程和精巧的代码设计，让 LLM 获得稳定的 tool calling 能力。使用多个不具备该能力的 LLM 作为测试模型，在多个工具调用任务上实验成功率达 100%，且基于 comfyui 开发，适合无代码基础的人员复现和修改。
2025-03-03
什么是llm
LLM（大型语言模型）是一种具有重要地位和强大功能的人工智能系统。 从不同角度来看： 它更像是新操作系统的核心程序，能够协调跨多种模式的输入与输出（如文本、音频、视觉），具备代码解释和运行程序的能力，还拥有浏览器/上网功能、嵌入式数据库用于文件和内部内存存储与检索等。 在开发中，LLM 是 LangChain 平台与各种大模型进行交互的核心模型，是一个抽象概念，输入是字符串表示的用户请求或问题，输出也是字符串表示的模型回答或结果，能调用不同大模型完成不同语言任务，让开发者无需关心大模型细节，还能灵活选择和切换大模型，甚至自己封装 LLM 实现特定语言逻辑和功能。 简单理解，LLM 就像一个非常聪明、知识丰富的“朋友”，能够通过学习大量文字数据来理解和生成自然语言，回答各种问题、写故事、完成作文等。可以把它想象成一个从小读了很多书、知识不断丰富的小朋友，虽然不是真人而是计算机程序，但能处理和学习海量文字数据，这些数据来源广泛。如今的搜索引擎背后可能就有 LLM 的支持，能更准确完整地回答问题。 总的来说，LLM 是一种通过学习大量文本数据，能够理解和生成自然语言的人工智能系统。
2025-03-01
帮我推荐一本入门llm的书
以下是为您推荐的入门 LLM 的相关资源： 1. 《皇子：LLM 经典论文速读版，看完感觉自己通透了》：包含 31 篇 LLM 的经典论文速读版，涵盖大语言模型架构、RAG、预训练、微调、提示词等内容。阅读前可安装浏览器插件“沉浸式翻译”方便中文阅读，将 arxiv PDF 论文原地址域名中的 x 更换成 5 可调整为 HTM 版本方便阅读。 2. 课程学习： 首先学习大语言模型（LLM）入门者的课程，这是了解 LLM 的基础。 进一步学习面向开发者的课程，帮助更好地应用 LLM 于实际项目中。 3. AI 大神 Karpathy 再发的 LLM 入门介绍视频：时长三个半小时，详细介绍 LLM 训练的全部过程，包括预训练、有监督微调和强化学习。即使没有技术背景也能看懂，将提供对 ChatGPT 等 LLM 完整训练流程的直观理解，包含许多示例，并可能帮助思考当前的能力、所处的位置以及未来的发展方向。
2025-02-23
公共议题:AI如何助力HR业务? 研讨目标： 深入理解:深入探讨 AI在人力资源管理领域的应用、薪酬管理、员工关系、公司文化、包括人才获取与配置、学习与发展、组织与人才培、HR共享与HRIS等各模块的可应用场景 机会识别与场景落地:基于组织现状，识别出业务价值高、可落地的 A 应用场景; 研讨成果(输出物)： 请输出10个业务价值高、具备可行性的AI应用场景介绍，并说明what(场景是什么)、why(为什么值得做)、How(如何落地);
以下是为您生成的 10 个业务价值高、具备可行性的 AI 应用场景介绍： 1. 人才招聘与筛选 What：利用 AI 技术对求职者的简历进行自动筛选和分析，评估其与岗位的匹配度。 Why：节省 HR 大量的时间和精力，提高招聘效率和准确性。 How：通过自然语言处理和机器学习算法，训练模型识别关键信息和技能。 2. 员工培训与发展 What：根据员工的技能水平和职业发展目标，定制个性化的培训计划。 Why：提升员工的能力和绩效，增强员工对企业的忠诚度。 How：利用大数据分析员工的工作表现和学习需求，推荐相关课程和学习资源。 3. 薪酬福利管理 What：运用 AI 预测市场薪酬趋势，为企业制定合理的薪酬策略。 Why：保持企业薪酬的竞争力，吸引和留住优秀人才。 How：收集和分析行业薪酬数据，结合企业的财务状况和战略目标进行优化。 4. 员工绩效评估 What：借助 AI 实时监测员工的工作表现，提供客观的绩效评估。 Why：减少人为偏差，确保评估的公正性和准确性。 How：利用工作流程数据和行为分析模型进行评估。 5. 员工关系管理 What：通过 AI 分析员工的情绪和满意度，及时发现问题并解决。 Why：营造良好的工作氛围，提高员工的工作积极性和创造力。 How：使用情感分析技术处理员工的反馈和交流信息。 6. 组织架构优化 What：利用 AI 分析企业的业务流程和人员配置，提供组织架构调整建议。 Why：提高企业的运营效率和灵活性，适应市场变化。 How：基于数据分析和模拟优化算法进行评估和推荐。 7. 人力资源规划 What：根据企业的战略目标和业务发展预测人力资源需求。 Why：提前做好人才储备和招聘计划，保障企业的正常运营。 How：运用数据分析和预测模型进行规划。 8. 企业文化传播 What：使用 AI 生成个性化的企业文化宣传内容，提高传播效果。 Why：增强员工对企业文化的认同感和归属感。 How：利用自然语言生成技术和个性化推荐算法。 9. 智能客服 What：在 HR 服务中引入 AI 客服，解答员工常见问题。 Why：快速响应员工需求，提高服务质量。 How：训练智能客服模型，涵盖常见的 HR 问题和解决方案。 10. 人才库管理 What：利用 AI 对人才库进行分类和更新，提高人才库的利用效率。 Why：方便快速找到合适的人才，降低招聘成本。 How：运用数据挖掘和分类算法进行管理。
2025-04-14
公共议题:AI如何助力HR业务? 研讨目标： 深入理解:深入探讨 AI在人力资源管理领域的应用、薪酬管理、员工关系、公司文化、包括人才获取与配置、学习与发展、组织与人才培、HR共享与HRIS等各模块的可应用场景 机会识别与场景落地:基于组织现状，识别出业务价值高、可落地的 A 应用场景; 研讨成果(输出物)： 请输出3-5个业务价值高、具备可行性的AI应用场景介绍，并说明what(场景是什么)、why(为什么值得做)、How(如何落地);
以下是为您提供的 3 个业务价值高、具备可行性的 AI 应用场景介绍： 场景一：AI 在企业招聘中的应用 What：利用 AI 技术进行简历筛选、人才匹配和面试评估。 Why：能够快速处理大量简历，提高招聘效率和准确性，节省人力和时间成本，同时更精准地找到符合岗位需求的人才。 How：通过引入相关的 AI 招聘软件，与企业现有的招聘系统集成，对简历进行关键词提取和分析，利用机器学习算法进行人才匹配，并通过视频面试中的语音和表情分析辅助评估候选人。 场景二：AI 助力个性化人力资源管理 What：根据员工的个人特点和工作表现，提供个性化的培训计划、职业发展建议和绩效评估。 Why：能够充分发挥员工的潜力，提高员工满意度和忠诚度，促进企业的长期发展。 How：收集员工的工作数据、学习记录和绩效表现等信息，运用 AI 算法进行分析和预测，为员工制定专属的发展方案，并通过移动应用或内部系统向员工推送相关建议和培训课程。 场景三：AI 打造无人值守的 HR 平台 What：实现 HR 业务的自动化处理，如员工请假审批、薪酬计算和福利发放等。 Why：减少人工操作的错误和繁琐流程，提高 HR 工作的效率和准确性，使 HR 人员能够专注于更有价值的战略工作。 How：整合企业内部的各种 HR 系统和数据，利用 RPA 和 AI 技术实现流程的自动化，同时建立监控和预警机制，确保平台的稳定运行。
2025-04-14
AI在人力资源中的实践应用资料
以下是关于 AI 在人力资源中的实践应用资料： 在人力资源管理领域，AI 的应用覆盖了多个环节，显著提高了工作效率。 在招聘初期，AI 可用于职位描述生成、简历分析、面试题设计等方面。 在员工绩效评估中，AI 能够分析员工工作表现，识别绩效趋势和提升点，为管理层提供数据支持的绩效反馈。 在员工培训与发展方面，AI 也能发挥作用。 相关报告推荐： 《》预测，随着技术进步，AI 将进一步推动个性化人力资源管理，创造无人值守的 HR 平台，推动企业持续发展。 此外，在全行业中，基础办公提效如 ppt、excel、会议报告、策划会、文案包装、图文海报、客服机器人 bot 等，都可以从【单个任务 task>角色 role>角色间协同 collaboration】显著提高工作效率。
2025-03-31
我是一名电商设计师，现在想学习SD AI绘图，有一点基础，但学习课程资源有限，请你帮我制定一份详细的学习计划，并提供一些学习资源。
以下是为您制定的学习 SD AI 绘图的详细计划及相关学习资源： 学习计划： 1. 首先，深入学习 Stable Diffusion 的核心基础原理，包括模型工作流程、核心基础原理、训练全过程以及其他主流生成式模型介绍。 2. 接着，掌握 Stable Diffusion 的核心网络结构，如 SD 模型整体架构、VAE 模型、UNet 模型、CLIP Text Encoder 模型等。 3. 学习从 0 到 1 搭建使用 Stable Diffusion 模型进行 AI 绘画的不同方式，如使用 ComfyUI、SD.Next、Stable Diffusion WebUI、diffusers 搭建推理流程，并查看生成示例。 4. 了解 Stable Diffusion 的经典应用场景，如文本生成图像、图片生成图片、图像 inpainting、使用 controlnet 辅助生成图片、超分辨率重建等。 5. 最后，尝试从 0 到 1 上手使用 Stable Diffusion 训练自己的 AI 绘画模型，包括配置训练环境与训练文件，以及基于 Stable Diffusion 训练 LoRA 模型。 学习资源： 1. 教程：深入浅出完整解析 Stable Diffusion（SD）核心基础知识 知乎。 目录涵盖了 Stable Diffusion 系列的各个方面，包括核心基础知识、网络结构解析、搭建推理流程、应用场景和模型训练等。 2. SD 模型权重百度云网盘： 关注 Rocky 的公众号 WeThinkIn，后台回复：SD 模型，即可获得资源链接，包含多种模型权重。 3. SD 保姆级训练资源百度云网盘： 关注 Rocky 的公众号 WeThinkIn，后台回复：SDTrain，即可获得资源链接，包含数据处理、模型微调训练以及基于 SD 的 LoRA 模型训练代码全套资源。 4. Stable Diffusion 中 VAE，UNet 和 CLIP 三大模型的可视化网络结构图下载： 关注 Rocky 的公众号 WeThinkIn，后台回复：SD 网络结构，即可获得网络结构图资源链接。
2025-03-28
ai在人力资源工作中可以做什么？有哪些好用的智能体？
AI 在人力资源工作中可以发挥以下作用： 1. 招聘与选拔：利用 AI 进行简历筛选、人才匹配和面试评估，提高招聘效率和准确性。 2. 员工培训与发展：通过个性化的学习路径推荐、在线培训课程和培训效果评估，优化员工的培训体验和效果。 3. 绩效管理：借助数据分析来评估员工绩效，提供更客观的绩效评估结果。 4. 员工关系管理：预测员工离职风险，及时采取措施改善员工满意度和忠诚度。 以下是一些好用的 AI 智能体： 1. （用于客户服务和支持）。 2. （用于软件开发）。 3. （用于财务后勤）。 需要注意的是，智能体和工作流有所不同。智能体是特定任务的“助手”，用于局部执行任务，擅长做具体、重复性的任务，如客服聊天、推荐商品、处理订单等，但只能按照预先设定的规则和任务做事，遇到超出范围的情况可能无法应对。工作流则是一个“计划”或“路线图”，指导整个任务的流程，更灵活，能够适应变化，可处理一个完整的过程，涵盖所有步骤和环节。在业务中，通常需要的是工作流而非单个智能体，因为整个业务流程设计至关重要。
2025-03-27
作为AI小白，如何开始学习AI?有哪些资源和方式推荐？
对于 AI 小白，以下是开始学习 AI 的建议和资源推荐： 1. 了解 AI 基本概念： 建议阅读「」部分，熟悉 AI 的术语和基础概念，包括人工智能的主要分支（如机器学习、深度学习、自然语言处理等）以及它们之间的联系。 浏览入门文章，了解 AI 的历史、当前的应用和未来的发展趋势。 2. 开始 AI 学习之旅： 在「」中，您将找到一系列为初学者设计的课程，特别推荐李宏毅老师的课程。 通过在线教育平台（如 Coursera、edX、Udacity）上的课程，按照自己的节奏学习，并有机会获得证书。 3. 选择感兴趣的模块深入学习： AI 领域广泛（比如图像、音乐、视频等），您可以根据自己的兴趣选择特定的模块进行深入学习。 掌握提示词的技巧，它上手容易且很有用。 4. 实践和尝试： 理论学习之后，实践是巩固知识的关键，尝试使用各种产品做出您的作品。 在知识库提供了很多大家实践后的作品、文章分享，欢迎您实践后的分享。 5. 体验 AI 产品： 与现有的 AI 产品进行互动，如 ChatGPT、Kimi Chat、智谱、文心一言等 AI 聊天机器人，了解它们的工作原理和交互方式。 此外，关于 AI 知识库使用及 AIPO 活动的介绍：讨论了 AI 知识库的使用情况、AIPO 活动的发起背景、内容安排及相关资源等。AIPO 线下活动及 AI 相关探讨：讨论了 AIPO 线下活动的规则和玩法，以及 AI 在科技发展中的重要地位和相关研究方向。way to AGI 社区活动与知识库介绍：讨论了 way to AGI 社区活动的安排、材料准备以及知识库的使用和相关内容更新等情况。 学习路径方面：有李弘毅老师的生成式 AI 导论等高质量学习内容，可系统化学习或通过社区共创活动反推学习，鼓励整理学习笔记并分享交流。初学者入门推荐：推荐看 open AI 的官方 Cookbook，小琪姐做了中文精读翻译，也可查看 cloud 的相关内容。历史脉络类资料：整理了 open AI 的发展时间线和万字长文回顾等。
2025-03-27