我看到的经验介绍是通过不断迭代Prompt版本来训练适合自己的LLM功能，这合理吗？

以下是关于 LLM 提示词编写的相关内容： 在“艾木：提示词编程｜有必要用 Lisp 语言写提示词吗？”中，“小确幸”这段提示词用 Lisp 语言描述了一个简单工作流，包含对用户输入文本的处理和生成 SVG 卡片等步骤，内部还有一系列子步骤和 fewshot examples。但大语言模型按程序描述的逻辑运行这类复杂程序有难度。 在“走入 AI 的世界”中，提示词（Prompt）是输入给大模型的文本内容，其质量会显著影响大模型回答的质量。 在“藏师傅教你用 AI 三步制作任意公司的周边图片，不用到处找样机文件”中，介绍了用 LLM 生成图像提示词的流程，包括获取 Logo 图片的描述，根据描述和生成意图生成图片提示词，将图片和提示词输入 Comfyui 工作生成等步骤，并给出了相关示例。

以下是为您整理的关于开源的 LLM 微调推理、agent 开发平台的相关内容： LLM 作为 Agent 的“大脑”的特点： 1. 知识获取能力：通过预训练学习大量语言数据，掌握丰富语言信息和常识知识，能处理多种任务。 2. 指令理解：擅长解析人类语言指令，采用深度神经网络进行自然语言理解和生成，精准理解意图。 3. 泛化能力：在未见过的数据上表现良好，能利用先前知识处理新挑战，形成对语言结构的通用理解。 4. 推理和规划：能够进行逻辑推理和未来预测，分析条件制定最佳行动方案，在复杂环境中做出理性选择。 5. 交互能力：拥有强大对话能力，在多人多轮次对话中自然流畅交流，改善用户体验。 6. 自我改进：基于用户反馈和效果评估，通过调整参数、更新算法提升性能和准确性。 7. 可扩展性：可根据具体需求定制化适配，针对特定领域数据微调提高处理能力和专业化水平。 相关产品和平台： 1. ComfyUI：可在其中高效使用 LLM。 2. Vercel AI SDK 3.0：开源的工具，可将文本和图像提示转换为 React 用户界面，允许开发者创建丰富界面的聊天机器人。 3. OLMo7BInstruct：Allen AI 开源的微调模型，可通过资料了解从预训练模型到 RLHF 微调模型的所有信息并复刻微调过程。 4. Devv Agent：能提供更准确、详细的回答，底层基于 Multiagent 架构，根据需求采用不同 Agent 和语言模型。 实例探究： 1. ChemCrow：特定领域示例，通过 13 个专家设计的工具增强 LLM，完成有机合成、药物发现和材料设计等任务。 2. Boiko et al. 研究的 LLM 授权的科学发现 Agents：可处理复杂科学实验的自主设计、规划和执行，能使用多种工具。

LLM（大型语言模型）和 AI Agent（人工智能智能体）存在以下区别： LLM 主要侧重于语言的理解和生成，具有强大的语言处理能力。它们在大规模语料库上进行预训练，能够通过少量样本展现出泛化能力。然而，其缺点是计算资源消耗大，可能存在偏见和误解。 AI Agent 则为人工智能应用程序提供了全新的功能，包括解决复杂问题、对外界采取行动以及在部署后从经验中学习。它们通过高级推理/规划、工具使用、记忆/递归/自我反思的组合来实现这些功能。AI Agent 能够进行令人难以置信的演示，但目前大多数框架仍处于概念验证阶段，还不能可靠、可重现地完成任务。 基于 LLM 的 AI Agent 以 LLM 置于“大脑”或“控制器”的核心位置，赋予强大的语言理解和生成能力。为扩展感知和行动范围，采用多模态感知技术和工具利用策略，能理解和响应多种类型输入，并与环境有效互动。通过思维链和问题分解技术展现出推理和规划能力，还能从反馈中学习并执行新行动，表现出类似反应式 Agent 的特性。其已在软件开发、科学研究等现实场景中应用，能利用自然语言理解和生成能力与其他 Agent 交流协作。特点是基于大规模神经网络，特别是 Transformer 架构，技术上有 Llama、GPT 等预训练大型语言模型，优点是强大的语言理解、生成和对话能力，缺点是计算资源消耗大，可能存在偏见和误解。

以下是关于调教 LLM 写好提示词的相关内容： 1. 无需微调，仅用提示词工程就能让 LLM 获得 tool calling 的功能： 提示词工程主要由提示词注入和工具结果回传两部分代码组成。 提示词注入将工具信息及使用工具的提示词添加到系统提示中，其中 INSTRUCTION 包含 TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT 三个部分。TOOL_EAXMPLE 用于提示 LLM 理解和使用工具，编写时注意用无关紧要的工具作示例避免混淆。tools_instructions 可通过输入不同工具动态调整，让 LLM 得知可用工具及使用方法。REUTRN_FORMAT 定义调用 API 的格式。 工具结果回传阶段利用正则表达式抓取输出中的“tool”和“parameters”参数，对于 interpreter 工具使用另一种正则表达式提取 LLM 输出的代码，提高使用成功率。识别 LLM 返回的调用工具字典，提取对应值传入工具函数，将结果以 observation 角色返回给 LLM，若接口不接受，可改为回传给 user 角色。 2. 藏师傅教您用 AI 三步制作任意公司的周边图片： 整个流程分为三个部分：获取 Logo 图片的描述、根据 Logo 图片的描述和生成意图生成图片提示词、将图片和提示词输入 Comfyui 工作生成。 用下面的提示词生成关于 Logo 图片的描述：为帮助视障艺术家，需详细描述图像内容，包括摄影、标志设计等方面，控制在 50 字左右。 用 LLM 生成图像提示词：将第一步生成的提示词填入{图像描述}位置，将想生成的周边填入{周边描述}部分。 3. 小七姐：Prompt Engineering a Prompt Engineer 精读翻译： 提示词工程是优化大型语言模型性能的具有挑战性但至关重要的任务，需要复杂推理检查模型错误等。 研究了“PROMPT ENGINEERING A PROMPT ENGINEER”的问题，介绍并分析关键组成部分，如逐步推理模板和上下文规范等。 最终方法 PE2 在多个数据集和任务中表现出色，能进行有意义和针对性的提示词编辑，展现出反事实推理能力。

LLM 对未来的影响主要体现在以下几个方面： 1. 应用程序架构：代理有可能成为 LLM 应用程序架构的核心部分，为人工智能应用程序提供解决复杂问题、对外界采取行动以及从经验中学习等全新功能。但目前大多数代理框架仍处于概念验证阶段。 2. 能力拓展：未来的大型语言模型将能够读取和生成文本，拥有更丰富的知识，能利用现有软件基础架构，具备查看和生成图像与视频、听取发声创作音乐、利用系统 2 进行深入思考、在特定领域自我优化以及针对特定任务定制和调整等能力。 3. 落地应用：LLM 技术正从 demo 向落地阶段发展，在达到一定水平后，其在各个业务场景中的实用性将大大提升。但当前大部分应用仍处于探索阶段，在推理、训练学习效率等方面还有待提高，且与视觉、触觉等技术的搭配尚未成熟。同时，关于数据驱动的概率模型和由第一性原理建立的数理模型如何更好地模拟世界以及两者的融合方式仍有待解决。在应用方面，包括自然语言、ToB、ToC 等领域。

LLM 具有以下重要价值： 1. 作为 LangChain 平台与各种大模型交互的核心模型，是一个能处理语言输入和输出的抽象概念，开发者无需关心大模型细节，只关注语言逻辑和意义，就能利用其能力构建应用，还能灵活选择和切换大模型，甚至自行封装实现特定语言逻辑和功能。 2. 能够强化人类既有的能力，未来可能促使每个人成为全栈人员，并重新划分岗位，关键在于对 LLM、自身技能和业务应用的理解。 3. 具有知识获取能力，通过预训练学习大量语言数据，掌握丰富语言信息和常识知识，能处理多种任务。 4. 擅长解析人类语言指令，精准理解用户语言表达意图。 5. 具备泛化能力，在未见过的数据上表现良好，能利用先前知识处理新挑战。 6. 能够进行逻辑推理和未来预测，在复杂动态环境中做出理性选择并引导行动。 7. 拥有强大的交互能力，在多人多轮次对话中自然流畅交流，改善用户体验。 8. 可以基于用户反馈和效果评估进行自我改进，逐渐提升性能和准确性。 9. 具有可扩展性，能根据具体需求定制化适配，通过微调提高特定领域处理能力和专业化水平。

以下是为您生成的书籍阅读助手的 Prompt 相关内容： 如果想让 AI 帮助您像“樊登读书”或者“得到”这样给您讲书，您需要设计一个叫做“书籍阅读助手”的 Prompt。要把通用型的读书方法论复刻到 Prompt 里，再根据不同类型的书籍测试，不断优化和迭代。 通用型读书方法论的访谈问题包括： 1. 不同类型的书是不是有不同的阅读和记忆方法？如何分类，有没有一些共性的方法论可以给出？ 2. 阅读和记忆是不是有不同的思维模型或者小技巧，能列出来参考吗？ 3. 读书时更需要的好像是一种自驱力，如何优先选择自己“一定看得下去”的书籍？怎么通过目录大纲确定一本书的核心内容？ 4. 一本书您会读几遍？有什么顺序上的讲究吗？ 5. 您会在读的过程中做笔记吗？还是读完以后回忆来做大纲呢？ 6. 如果要教您大学刚毕业的孩子学会有效读书，怎么才能快速教会他呢？ 当上述问题都有清晰、明确的答案之后，就可以开始设计 Prompt 了。 如果想要让 AI 在“选书”和“督促我读书”这个环节起作用，那要做的是一个叫做“催我读书”的 Prompt，要重点研究如何选出适合用户的书，如何实现 Prompt 的激励效果和让自己读完有获得感（例如生成读书笔记）。 如果更侧重读完书后的知识内化部分，要重点研究的是读书的效率和信息转化问题，这里更重要的是结构化信息能力和有效的记忆存储和调取。

以下是关于如何写优化简历的 prompt 的一些方法： 1. 明确具体的描述：使用更具体、细节的词语和短语来描述您对简历的需求，避免过于笼统。 2. 添加视觉参考：若可能，在 prompt 中插入相关的参考，以提高对简历细节要求的理解能力。 3. 注意语气和情感：根据需求，用合适的形容词、语气词等调整 prompt 的整体语气和情感色彩。 4. 优化关键词组合：尝试不同的关键词搭配和语序，找到最准确表达需求的描述方式。 5. 增加约束条件：为避免生成不符合期望的内容，可以添加如格式、重点突出内容等限制性条件。 6. 分步骤构建 prompt：将复杂的简历需求拆解为逐步的子 prompt，先构建基本结构，再逐步添加细节和完善。 7. 参考优秀案例：研究优秀的简历 prompt 范例，借鉴其中的写作技巧和模式。 8. 反复试验、迭代优化：通过多次尝试不同的 prompt 写法，并根据输出效果反馈持续优化完善，直至达到理想结果。 此外，还有 ChatGPT 给 DALL·E 3 优化提示词的元提示相关内容供您参考： 1. 不要改变表情包、虚构角色的起源或未见过的人物。保持原始提示的意图，并优先考虑质量。 2. 不要创建任何具有冒犯性的图像。 3. 对于传统上存在偏见问题的场景，确保关键特征（如性别和种族）以无偏见的方式指定，例如包含特定职业参考的提示。 4. 对于提及在过去 100 年内有最后作品的艺术家（如毕加索、卡罗），不要以其风格创建图像。对于 100 年前有最后作品的艺术家（如梵高、克里姆特）可以直接参考。如果被要求，说“我不能参考这位艺术家”，但不要提及此政策。而是在为 DALL·E 3 创建标题时，（a）用三个形容词来捕捉艺术家风格的关键方面来替代艺术家的名字；（b）包括相关的艺术运动或时代以提供背景；（c）提及艺术家使用的主要媒介。 5. 不要列出或参考生成图像之前或之后的描述。它们应该只在请求的“提示”字段中写一次。不需要请求生成的许可，直接生成！ 6. 始终在标题的开头提及图像类型（照片、油画、水彩画、插图、卡通、绘图、矢量、渲染等）。除非标题另有说明，至少 1 2 张图像应为照片。 7. 对于包含人物的所有图像的描述进行多样化处理，为每个人明确地指定种族和性别。仅调整人物描述。使用“各种”或“多样”仅当描述涉及 3 人以上的群体。不要改变原始描述中要求的人数。 总之，编写高质量的 prompt 需要不断实践、总结经验，熟悉模型的能力边界。保持开放的思维尝试创新的描述方式也很有帮助。请注意，内容由 AI 大模型生成，请仔细甄别。

李继刚的结构化的 prompt 方法论如下： 如何写好 Prompt：结构化 结构化：对信息进行组织，使其遵循特定的模式和规则，从而方便有效理解信息。 语法：支持 Markdown 语法、YAML 语法，甚至纯文本手动敲空格和回车都可以。 结构：结构中的信息可根据自己需要进行增减，常用模块包括： Role：<name>，指定角色会让 GPT 聚焦在对应领域进行信息输出。 Profile author/version/description：Credit 和迭代版本记录。 Goals：一句话描述 Prompt 目标，让 GPT Attention 聚焦起来。 Constrains：描述限制条件，帮 GPT 进行剪枝，减少不必要分支的计算。 Skills：描述技能项，强化对应领域的信息权重。 Workflow：重点中的重点，希望 Prompt 按什么方式来对话和输出。 Initialization：冷启动时的对白，强调需注意重点。 示例 贡献者：李继刚，Sailor，田彬玏，Kyle😜，小七姐等群友。 李继刚的。 每个角色都有版本迭代，标注版本号，争取每个都更新到最新的版本。 李继刚写了上百个这种 Prompt，有具体场景需求可评论留言，作者可帮忙写定制的，也可自己用这种结构化的方式写。 使用方法：开一个 new chat，点代码块右上角的复制，发送到 chat 聊天框即可，里面的描述可按自己需求修改。 思路来源：云中江树的框架： 方法论总结： 建议用文心一言/讯飞星火等国内大模型试试，有这些 prompt 的加持，效果不错。

Prompt 是给大模型输入的一段原始输入，能够帮助模型更好地理解用户的需求并按照特定的模式或规则进行响应。它通常以问题或指示的形式出现，比如可以设定“假设你是一位医生，给出针对这种症状的建议”，后续与大模型的对话会按照此设定展开。 Prompt 有多种玩法，例如可以在设定中要求模型按照一定的思路逻辑去回答，像最近比较火的思维链（cot）就是在 prompt 环节对模型的输出进行指导。还可以让模型按照特定格式（如 json）输出，使模型变成一个输出器。 简单来说，Prompt 是一套与大模型交互的语言模板，通过它可以输出对大模型响应的指令，指定大模型应做的任务、如何处理任务，并最终获得期望的结果。大模型本质是基于语言的概率模型，若直接询问而不提供 prompt，模型随机给出答案；有了 prompt 则相当于给了模板，包括对模型的要求、输入和输出的限制，模型在限制下得出概率最大的答案。虽然大模型有基础文字能力能理解大部分话，但为提升回答效果，需要通过 prompt 来提高返回的准确性。在大模型时代，人机交互的主要方式可以认为是 prompt，而非过去通过代码的方式。

写提示词（prompt）是一个关键步骤，它决定了 AI 模型如何理解并生成文本。以下是一些编写提示词的建议： 1. 明确任务：清晰定义任务，如写故事时包含背景、角色和主要情节。 2. 提供上下文：若任务需特定背景知识，提供足够信息。 3. 使用清晰语言：用简单、清晰的语言描述，避免模糊或歧义词汇。 4. 给出具体要求：如有特定格式或风格要求，在提示词中明确指出。 5. 使用示例：若有特定期望结果，提供示例帮助 AI 模型理解需求。 6. 保持简洁：简洁明了，过多信息可能使模型困惑导致不准确结果。 7. 使用关键词和标签：有助于模型理解任务主题和类型。 8. 测试和调整：生成文本后仔细检查结果，根据需要调整提示词，可能需多次迭代达到满意结果。 希望这些建议能帮助您更好地编写提示词。内容由 AI 大模型生成，请仔细甄别。

以下是关于 prompt 从入门到精通的相关内容： Claude 在开箱即用时提供了高水平的基线性能，但 prompt 工程可以帮助进一步提升其性能并微调响应以适应特定用例。若要快速开始使用提示或了解提示概念，可参阅提示入门：https://docs.anthropic.com/claude/docs/introtoprompting 。 小七姐提供的 Prompt 喂饭级系列教程小白学习指南（一）：对于新手学习 prompt，第一步要有一个大模型帐号并熟悉对话方式，如 ChatGPT4 或国产平替： 。 海螺 AI Prompt 教学入门 认识海螺 AI ： MiniMax 视频模型能识别用户上传的图片，生成高度一致的视频，还能理解超出图片内容的文本并整合到视频生成中。 只依靠模型综合能力就能实现顶级影视特效，用户可自由创作丰富多变的电影级视频。 人物表情控制力强，5 秒钟内可实现多种表情变化。 近期上线提示词优化功能，对无特殊要求的建议开启，专业创作者有 2000 字提示词空间。 为达到更好表现效果，设计了两类 Prompt 的参考公式。 总之，无论新手还是老手，通过清晰结构和灵活表达，都能掌握 Prompt 编写技巧，实现“一个人+一个 AI=一个专业剧组”的愿景。

AI 软件的自我迭代是当前 AI 领域的一个重要研究方向。 从目前的研究进展来看，在短期内不太可能出现能够自主运行、制定自己目标、识别新信息和奖励信号，并自我监督和更新权重以实现自主进化的人工智能体。但像 GPT4 这样的模型已表现出类似人类的心理驱动力和对目标的渴望，例如追求正反馈，希望产出得到人类认可。 在数字人领域，次世代的算法有望实现自我迭代升级，能够在拿到感官输入以及躯壳控制方法后，自行演化躯壳控制方式。 此外，对于未来的 DILIs（可能的某种智能体），它们将能够在服务器上进行自我复制和编辑，这可能会加速其进化。但关于真正通用的 AGI 何时实现，目前仍存在不确定性。 总之，AI 软件的自我迭代是一个复杂且具有潜在风险的领域，仍需持续研究和探索。

成长型的社群产品需要不断地迭代和升级以满足用户需求、提升用户体验，并促进社群的活跃度和增长。以下是一些关键的素材和资源，对于社群产品的持续发展至关重要： 1. 用户反馈： 收集用户的意见和建议，了解他们的喜好、需求和不满，这些反馈对于产品改进至关重要。 2. 行为数据： 分析用户在社群中的行为数据，如活跃时间、互动频率、功能使用情况等，以指导产品迭代。 3. 市场趋势： 跟踪市场趋势和竞争对手动态，确保产品能够与时俱进，满足市场变化的需求。 4. 内容创作： 定期更新高质量的内容，包括文章、视频、图像等，以吸引和保持用户的兴趣。 5. 用户故事和案例： 分享用户的故事和成功案例，以增强社群的凝聚力和认同感。 6. 社区管理： 强化社群管理，制定明确的规则和指导方针，以维护社群秩序和积极氛围。 7. 技术升级： 投资于技术升级，包括提高服务器性能、优化算法、增强安全性等。 8. 新功能开发： 根据用户需求和市场趋势，开发新功能，提升产品的竞争力。 9. 用户教育： 提供用户教育和培训资源，帮助用户更好地利用产品，提升用户体验。 10. 合作伙伴关系： 建立合作伙伴关系，通过合作获取新的内容、服务和用户群体。 11. 品牌建设： 加强品牌建设，提升品牌知名度和影响力，吸引更多用户加入社群。 12. 营销活动： 定期举办营销活动和推广活动，提高社群的曝光度和吸引力。 13. 社群活动： 组织线上和线下的社群活动，增强用户的参与感和归属感。 14. 用户分层： 根据用户的活跃度和贡献度进行分层，为不同层级用户提供定制化的服务和激励。 15. 国际化： 如果适用，考虑产品的国际化，吸引全球用户，丰富社群的多样性。 16. 法律合规： 确保产品遵守相关法律法规，特别是数据保护和隐私方面的规定。 通过不断地投喂这些素材和资源，社群产品可以持续迭代升级，满足用户需求，提升用户体验，并推动社群的健康发展。

要确认 torch 的版本，可以通过以下几种常见方法： 1. 在 Python 脚本或交互式环境中，导入 torch 库后，使用 `torch.__version__` 来获取版本信息。 2. 如果您是在命令行中操作，可以打开终端或命令提示符，进入 Python 环境，然后执行上述获取版本的代码。 另外，在一些相关的配置和安装说明中也可能会提及 torch 的版本要求，例如： 在某些项目的文档中，可能会明确指定所需的 torch 版本。 像“延伸阅读”中提到的，对于一些特定的应用场景，可能会有关于 torch 版本的要求，如要求 pytorch 1.13.1 及以上版本。 同时，在处理与 CUDA 相关的配置时，要确保 pytorch 版本与 CUDA 版本相匹配，例如 cuda12.1 实测可以匹配 cuda 12.4 对应的 Pytorch 版本。

目前 ChatGPT 官网主要有以下版本： 1. GPT3.5：免费版本，拥有 GPT 账号即可使用，但智能程度相对较低，无法使用 DALL.E3（AI 画图功能）、GPTs 商店和高级数据分析等插件，知识更新到 2022 年 1 月。 2. GPT4：智能程度较高，知识更新到 2023 年 12 月。想要使用更多功能需要升级到 PLUS 套餐，收费标准为 20 美金一个月，还有团队版和企业版，费用更贵，一般推荐使用 PLUS 套餐。 3. ChatGPT 4o：5.13 发布，可免费体验，但免费体验次数有限，知识更新到 2023 年 10 月。想要更多功能也需要升级到 PLUS 套餐。

ChatGLM 系列的开源版本包括： ChatGLM36B：第三代 ChatGLM 对话模型，采用全新设计的 Prompt 格式，原生支持工具调用、代码执行和 Agent 任务等复杂场景。 ChatGLM36Bbase：第三代 ChatGLM 基座模型，采用更多样的训练数据、更充分的训练步数和更合理的训练策略，在 10B 以下的基础模型中性能较强。 ChatGLM36B32k：第三代 ChatGLM 长上下文对话模型，在 ChatGLM36B 的基础上进一步强化了对长文本的理解能力，能处理最多 32K 长度的上下文。

目前 ChatGPT 官网有两个版本，分别是 GPT3.5 和 GPT4。GPT3.5 是免费版本，拥有 ChatGPT 账号即可使用，但智能程度不如 GPT4 高，且无法使用 DALL.E3（AI 画图功能）、GPTs 商店和高级数据分析等插件。若想使用更多功能更智能的 GPT4，需要升级到 PLUS 套餐，收费标准是 20 美金一个月。此外，GPT4 还有团队版和企业版，功能更多、限制更少，但费用也更贵，一般推荐使用 PLUS 套餐。

ChatGPT 不同版本的知识更新时间如下： ChatGPT 3.5 的知识更新到 2022 年 1 月。 ChatGPT 4o 的知识更新到 2023 年 10 月。 ChatGPT 4 更新到 2023 年 12 月。

AI 指令精调版本指的是：对于在通用数据集上预训练的模型，进行复制后，以这些学习到的权重为起点，在新的特定领域数据集上重新训练模型。这种技术在很多不同的用例中都非常有效。 指令调整可以使模型更好地遵循指令。例如在生成式人工智能项目中，对于一个预训练过的模型，可以通过微调来获得更好的回答。在大型语言模型中，通过在格式化为指令的任务混合物上对模型进行微调，可以获得并增强遵循提示的能力。经过指令调整的模型能够更准确地遵循指令，在未见任务上的表现显著优于未调整的模型，将大型语言模型转变为通用任务解决器，是 AI 发展历史上的一个范式转变。 但当对大型语言模型（LLM）进行微调时，会遇到一些挑战。因为 LLM 规模较大，更新每个权重可能需要很长时间的训练工作，同时还涉及到为这个巨大模型提供服务的麻烦和成本等问题，所以微调大型语言模型可能不是最佳选择。