Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

有什么知识

Answer

以下是关于 AI 相关的知识:

  1. AI Agent 系列中的 Brain 模块:
    • 知识类型:训练大模型本质是将知识压缩,模型依赖知识进行推理、规划和反思。
    • 内置知识:分为常识知识(包括日常生活中的事实和逻辑规则)、专业知识(涉及特定领域的详细信息)、语言知识(包括语法规则、句型结构、语境含义和文化背景等)。
  2. RAG:
    • 原理:对大语言模型的作用如同开卷考试对学生,事实性知识与推理能力分离,存储在外部知识源,包括参数化知识(模型训练中学习得到,隐式储存在神经网络权重中)和非参数化知识(存储在外部向量数据库等)。
  3. 机器学习必备技能 - 数学基础:
    • 重要性:库和框架支持虽多,但要成为专业人士需了解代码背后逻辑,取消框架支持时,了解数学细节和编写复杂模式很重要。
    • 应用:凭借算法背后的数学知识为数据集选择最佳算法;利用正则化器背后的数学知识解决模型过拟合或高方差问题;利用图论知识分析数据特征间复杂关系;利用优化器背后的数学知识设计适当的成本函数。
    • 所需数学知识水平:取决于具体需求,底层研究需要深厚数学知识,单纯应用者可能掌握 prompt 基础框架即可。
Content generated by AI large model, please carefully verify (powered by aily)

References

AI Agent系列(二):Brain模块探究

所以在深入讨论Brain模块的其他功能之前,我们首先需要了解大模型中所蕴含的知识类型。训练大模型其本质上就是将知识进行压缩,没有这些知识,模型是无法进行进一步推理、规划、反思的。[heading3]4.1内置知识[content]知识在大模型中通常被分为两大类。第一类是内置知识,这类知识在模型训练阶段就已经被整合进模型中。我们可以将内置知识进一步细分为三个主要类别:1.常识知识:常识知识包括了日常生活中广泛认可的事实和逻辑规则。这些信息帮助智能体具备了强大的泛化能力,使其在不进行特殊指导下也能进行基本的推理和判断。例如,它包括季节变化、物体的基本物理属性、社会行为准则等。这类知识对于构建智能体的世界观极为重要,使其能够在多种常见场景下作出符合逻辑的反应。1.专业知识:与常识知识不同,专业知识涉及深入特定领域的详细信息。这包括但不限于医学、法律、科技、艺术等领域的专有概念和操作方法。例如,在医学领域中,智能体需要了解疾病症状、治疗方法和药物作用机制;在法律领域,则需掌握法律条文、案例判例及其应用方式。这些专业知识使智能体在特定咨询或操作时更加精准有效。1.语言知识:语言是人类沟通的基础,对智能体同样重要。语言知识不仅仅是单纯的单词意义理解,更包括语法规则、句型结构、语境含义以及文化背景等。智能体通过这些复杂的语言系统来解析和生成自然语言,从而与人类进行有效交流。此外,语言知识还涉及到非文字部分如语调、停顿和强调等,这些都是理解和生成自然对话不可或缺的部分。

问:RAG 是什么?

RAG对大语言模型(Large Language Model,LLM)的作用,就像开卷考试对学生一样。在开卷考试中,学生可以带着参考资料进场,比如教科书或笔记,用来查找解答问题所需的相关信息。开卷考试的核心在于考察学生的推理能力,而非对具体信息的记忆能力。同样地,在RAG中,事实性知识与LLM的推理能力相分离,被存储在容易访问和及时更新的外部知识源中,具体分为两种:参数化知识(Parametric knowledge):模型在训练过程中学习得到的,隐式地储存在神经网络的权重中。非参数化知识(Non-parametric knowledge):存储在外部知识源,例如向量数据库中。

[算法学习]机器学习必备技能 - 数学基础

由于库和框架的支持不断增加,机器学习开始变得越来越流行。我们现在很容易在所有领域找到人工智能和机器学习的应用。然而,通过库和框架使用人工智能,并不足以让我们成为机器学习领域的所谓”专业人士“。有编码框架的支持直接套用固然很方便,但要实现落地AI行业;我们必须了解这些代码背后的逻辑。一旦我们取消了现有框架的支持,了解这些框架背后的数学细节,编写这些算法中包含的复杂模式就会显得非常重要。可以参照上面的图例,我们至少需要了解概率、统计、线性代数、微积分和图论方面的知识。[heading1]如何利用数学成为机器学习领域的专家[content]有了具体的数学知识,我们就可以充分利用机器学习的潜力,在我们感兴趣的所有领域内构建各种各样有趣的应用程序。比如:凭借算法背后的内联数学知识,为数据集选择最佳算法。利用正则化器背后的数学知识帮助解决模型过拟合或高方差问题。利用图论的知识来分析数据特征之间更复杂的关系。利用优化器背后的数学知识来设计适当的成本函数。[heading1]机器学习需要什么水平的数学知识?[content]这个问题的答案相对比较主观,取决于每个人的具体需求。比如我们正在进行机器学习的底层研究,可能需要具有深厚的数学知识,因为研究要求彻底深入。但对单纯的应用者来说,我们可能不需要任何高等数学的相关知识,掌握prompt的基础框架就可以很好的应用。

Others are asking
搭建个人知识库
搭建个人知识库主要包括以下内容: 1. 了解 RAG 技术: 利用大模型的能力搭建知识库是 RAG 技术的应用。 大模型训练数据有截止日期,当需要依靠不在训练集中的数据时,可通过检索增强生成 RAG 实现。 RAG 应用包括文档加载、文本分割、存储、检索和输出 5 个过程。 文档加载:从多种来源加载文档,LangChain 提供 100 多种文档加载器,包括非结构化、结构化数据和代码等。 文本分割:把文档切分为指定大小的块。 存储:包括将切分好的文档块嵌入转换成向量形式,并将向量数据存储到向量数据库。 检索:通过检索算法找到与输入问题相似的嵌入片。 输出:把问题及检索出来的嵌入片提交给 LLM 生成答案。 2. 基于 GPT API 搭建: 涉及给 GPT 输入定制化知识,但 GPT3.5 一次交互容量有限,可使用 OpenAI 的 embedding API 解决方案。 embeddings 是浮点数字的向量,向量之间的距离衡量关联性,小距离表示高关联度。 3. 本地知识库进阶: 若要更灵活掌控,需额外软件 AnythingLLM,其包含 Open WebUI 能力,并支持选择文本嵌入模型和向量数据库。 安装地址:https://useanything.com/download 。 安装完成后进入配置页面,主要分为三步:选择大模型、选择文本嵌入模型、选择向量数据库。 AnythingLLM 中有 Workspace 概念,可创建独有 Workspace 与其他项目数据隔离。 构建本地知识库包括创建工作空间、上传文档并嵌入、选择对话模式(Chat 模式综合给出答案,Query 模式仅依靠文档数据给出答案)、测试对话。 最后,“看十遍不如实操一遍,实操十遍不如分享一遍”。如果对 AI Agent 技术感兴趣,可联系或加入免费知识星球(备注 AGI 知识库)。
2025-01-15
我想学习AI知识,应该从哪里学起呢?
对于新手学习 AI ,建议您从以下几个方面入手: 1. 了解 AI 基本概念:首先,阅读「」部分,熟悉 AI 的术语和基础概念,包括其主要分支(如机器学习、深度学习、自然语言处理等)以及它们之间的联系。同时,浏览入门文章,了解 AI 的历史、当前的应用和未来的发展趋势。 2. 开始 AI 学习之旅:在「」中,您能找到为初学者设计的课程,特别推荐李宏毅老师的课程。您还可以通过在线教育平台(如 Coursera、edX、Udacity)上的课程,按照自己的节奏学习,并有可能获得证书。 3. 选择感兴趣的模块深入学习:AI 领域广泛,比如图像、音乐、视频等,您可以根据自己的兴趣选择特定的模块进行深入学习。建议您一定要掌握提示词的技巧,它上手容易且很有用。 4. 实践和尝试:理论学习之后,实践是巩固知识的关键。尝试使用各种产品做出您的作品,在知识库提供了很多大家实践后的作品、文章分享,欢迎您实践后的分享。 5. 体验 AI 产品:与现有的 AI 产品进行互动是学习 AI 的另一种有效方式。尝试使用如 ChatGPT、Kimi Chat、智谱、文心一言等 AI 聊天机器人,了解它们的工作原理和交互方式。 记住,学习 AI 是一个长期的过程,需要耐心和持续的努力。不要害怕犯错,每个挑战都是成长的机会。随着时间的推移,您将逐渐建立起自己的 AI 知识体系,并能够在这一领域取得自己的成就。完整的学习路径建议参考「通往 AGI 之路」的布鲁姆分类法,设计自己的学习路径。
2025-01-15
作为一名小学班主任,我想将AI作为辅助班级管理的工具,我可以怎么做?需要学习哪些基础知识,如何创建AI工具呢?
作为一名小学班主任,若想将 AI 作为辅助班级管理的工具,您可以参考以下建议: 基础知识学习: 1. AI 背景知识:了解人工智能、机器学习、深度学习的定义及其之间的关系。 2. 历史发展:简要回顾 AI 的发展历程和重要里程碑。 3. 数学基础: 统计学基础:熟悉均值、中位数、方差等统计概念。 线性代数:了解向量、矩阵等线性代数基本概念。 概率论:基础的概率论知识,如条件概率、贝叶斯定理。 4. 算法和模型: 监督学习:了解常用算法,如线性回归、决策树、支持向量机(SVM)。 无监督学习:熟悉聚类、降维等算法。 强化学习:简介强化学习的基本概念。 5. 评估和调优: 性能评估:了解如何评估模型性能,包括交叉验证、精确度、召回率等。 模型调优:学习如何使用网格搜索等技术优化模型参数。 6. 神经网络基础: 网络结构:理解神经网络的基本结构,包括前馈网络、卷积神经网络(CNN)、循环神经网络(RNN)。 激活函数:了解常用的激活函数,如 ReLU、Sigmoid、Tanh。 创建 AI 工具: 1. 了解 AI 基本概念:首先,建议阅读「」部分,熟悉 AI 的术语和基础概念。了解什么是人工智能,它的主要分支(如机器学习、深度学习、自然语言处理等)以及它们之间的联系。浏览入门文章,这些文章通常会介绍 AI 的历史、当前的应用和未来的发展趋势。 2. 开始 AI 学习之旅:在「」中,您将找到一系列为初学者设计的课程。这些课程将引导您了解生成式 AI 等基础知识,特别推荐李宏毅老师的课程。通过在线教育平台(如 Coursera、edX、Udacity)上的课程,您可以按照自己的节奏学习,并有机会获得证书。 3. 选择感兴趣的模块深入学习:AI 领域广泛(比如图像、音乐、视频等),您可以根据自己的兴趣选择特定的模块进行深入学习。建议您一定要掌握提示词的技巧,它上手容易且很有用。 4. 实践和尝试:理论学习之后,实践是巩固知识的关键,尝试使用各种产品做出您的作品。在知识库提供了很多大家实践后的作品、文章分享,欢迎您实践后的分享。 5. 体验 AI 产品:与现有的 AI 产品进行互动是学习 AI 的另一种有效方式。尝试使用如 ChatGPT、Kimi Chat、智谱、文心一言等 AI 聊天机器人,了解它们的工作原理和交互方式。通过与这些 AI 产品的对话,您可以获得对 AI 在实际应用中表现的第一手体验,并激发您对 AI 潜力的认识。 需要注意的是,AI 技术在不断发展,您需要持续学习和探索,以更好地将其应用于班级管理中。
2025-01-15
微信超级AI知识助手教学(下)
以下是关于微信超级 AI 知识助手教学(下)的相关信息: 时间:12 月 11 日 20:00 () 内容:个人助手的微信多模态接入教学 讲师:@张梦飞
2025-01-14
有哪些AI入门知识可以学习
以下是一些 AI 入门知识供您学习: 1. 了解 AI 基本概念: 阅读「」部分,熟悉 AI 的术语和基础概念,包括人工智能的主要分支(如机器学习、深度学习、自然语言处理等)以及它们之间的联系。 浏览入门文章,了解 AI 的历史、当前的应用和未来的发展趋势。 2. 开始 AI 学习之旅: 在「」中,您可以找到一系列为初学者设计的课程,特别推荐李宏毅老师的课程。 通过在线教育平台(如 Coursera、edX、Udacity)上的课程,按照自己的节奏学习,并有机会获得证书。 3. 选择感兴趣的模块深入学习: AI 领域广泛(比如图像、音乐、视频等),您可以根据自己的兴趣选择特定的模块进行深入学习。 掌握提示词的技巧,它上手容易且很有用。 4. 实践和尝试: 理论学习之后,实践是巩固知识的关键,尝试使用各种产品做出您的作品。 在知识库提供了很多大家实践后的作品、文章分享,欢迎您实践后的分享。 5. 体验 AI 产品: 与现有的 AI 产品进行互动,如 ChatGPT、Kimi Chat、智谱、文心一言等 AI 聊天机器人,了解它们的工作原理和交互方式。 此外,对于不会代码的您,还可以尝试了解以下作为基础的内容: 1. AI 背景知识: 基础理论:了解人工智能、机器学习、深度学习的定义及其之间的关系。 历史发展:简要回顾 AI 的发展历程和重要里程碑。 2. 数学基础: 统计学基础:熟悉均值、中位数、方差等统计概念。 线性代数:了解向量、矩阵等线性代数基本概念。 概率论:基础的概率论知识,如条件概率、贝叶斯定理。 3. 算法和模型: 监督学习:了解常用算法,如线性回归、决策树、支持向量机(SVM)。 无监督学习:熟悉聚类、降维等算法。 强化学习:简介强化学习的基本概念。 4. 评估和调优: 性能评估:了解如何评估模型性能,包括交叉验证、精确度、召回率等。 模型调优:学习如何使用网格搜索等技术优化模型参数。 5. 神经网络基础: 网络结构:理解神经网络的基本结构,包括前馈网络、卷积神经网络(CNN)、循环神经网络(RNN)。 激活函数:了解常用的激活函数,如 ReLU、Sigmoid、Tanh。 微软也提供了为期 12 周、共 24 课时的 AI 初学者入门课程,您将深入学习符号人工智能、神经网络、计算机视觉、自然语言处理等内容。在课程中您将学到实现人工智能的不同方法、神经网络和深度学习、处理图像和文本的神经架构等,同时也会了解到课程不包括的内容。译者:Miranda,课程原网址 https://microsoft.github.io/AIForBeginners/ 。如果想提升学习效果,可以亲身实践课程内容、做随堂小测试或根据课程内容开展实验。这套课程是由专家设计的人工智能综合指南,它非常适合初学者,覆盖了 TensorFlow、PyTorch 及人工智能伦理原则。
2025-01-14
我该如何了解AI相关的知识 通往AHI之路有手机端吗
以下是一些了解 AI 相关知识的途径: 1. 访问《通往 AGI 之路》知识库,其提供了全面系统的 AI 学习路径,涵盖从常见名词到应用等各方面知识。您可以通过访问。 2. 关注相关的社交媒体账号,如公众号“通往 AGI 之路”、等,获取 AI 消息和知识普及视频。 3. 学习 AE 软件,了解其功能及与 AI 结合运用的方式,比如在 B 站找丰富的入门课程自学,或从包图网下载工程文件学习。 4. 阅读相关的研究报告,如艾瑞的《2024 年移动端 AI 应用场景研究报告》。 另外,《通往 AGI 之路》知识库目前没有手机端。
2025-01-14