ManusAI核心技术解读

人工智能的核心技术主要包括以下几个方面： 1. 架构：当前市场上许多令人惊叹的 AI 技术成就可追溯到两个核心架构——Transformer 和 Diffusion。Transformer 代表了数据转换的能力，Diffusion 代表了数据向图像转换的能力，它们构成了当前 AI 技术的基石。 2. 算力：自 2010 年以来，GPU 等计算资源的快速发展使算力得到了空前的爆发，为 AI 技术的进步提供了强大的支持。 3. 人才网络：AI 领域的关键人才网络起到了不可忽视的作用，特别是 Google 在加拿大多伦多和蒙特利尔成立的两个实验室，以及其收购的英国公司 DeepMind 培养了一批杰出的领军人物，这些人才的流动和合作推动了 AI 技术的快速进步。 此外，人工智能的“智能”特质体现在以下几个方面： 1. 定义和特点：涵盖了机器的学习、推理、适应和自我改进的能力，表现为能从经验中学习、理解复杂概念、处理和分析大量数据以及执行复杂任务，具有算法驱动的决策过程、对大数据的处理能力以及在特定任务中的高效性和准确性等关键特点。 2. 行为模式： 信息处理：通过先进的算法和计算模型处理信息，从大量数据输入中学习规律、做出预测并决策。 环境互动：能够适应操作环境，在特定环境中高效工作并对新情况做出适应。 能量聚焦：执行设计任务时展现出极高效率，持续工作不受疲劳影响。 深度与专注：采用深度学习技术的 AI 系统能对特定领域数据进行深入分析，识别复杂模式和关系。

ChatGPT 总体介绍及核心技术如下： ChatGPT 有三个基本阶段。首先，获取与迄今为止的文本相对应的 token 序列，并找到表示它们的嵌入（即一组数字的数组）。然后在这个嵌入上进行操作，以“标准神经网络方式”，值“逐层流动”到网络的连续层中，以生成一个新的嵌入（即一个新的数字数组）。最后，从这个数组的最后一部分生成一个大约有 50,000 个值的数组，这些值将变成不同可能的下一个 token 的概率。 关键是，这个流程的每个部分都是由神经网络实现的，其权重由端到端的网络训练确定。除了整体架构外，一切都是从训练数据中“学习”的，而不是“显式设计”。 在设置体系结构方面有许多细节，首先是嵌入模块。transformers 的想法是对组成文本的 token 序列执行类似的操作，不仅定义了序列中可以存在连接的固定区域，而且引入了“注意力”的概念，以及更关注序列中的某些部分而不是其他部分的想法。ChatGPT 的总体目标是根据它所看到的训练内容（包括查看网络等数十亿页的文本），“合理地”继续文本。在任何给定的时刻，它都有一定数量的文本，目标是为下一个 token 添加一个适当的选择。

Sora 是一种基于扩散模型的视频生成模型，其核心技术是一个预训练的扩散变换器。扩散模型是一种生成式模型，通过学习输入数据的分布来生成新的数据。在 Sora 中，扩散模型被用来学习视频的分布，从而生成新的视频。 Sora 的核心技术源自 Diffusion Transformers（DiT），它结合了 VAE、ViT、DDPM 技术，优化了视频生成。具体来说，Sora 将原始输入视频压缩成一个时空潜在表示，然后从压缩视频中提取一系列时空潜在补丁，以封装短时间间隔内的视觉外观和运动动态。这些补丁类似于语言模型中的单词标记，为 Sora 提供了用于构建视频的详细视觉短语。Sora 的文本到视频生成是通过扩散变换器模型执行的。从一个充满视觉噪声的帧开始，模型迭代地去除噪声并根据提供的文本提示引入特定细节。本质上，生成的视频通过多步精炼过程出现，每一步都使视频更加符合期望的内容和质量。 总的来说，Sora 的核心技术是一个预训练的扩散变换器，它能够解析文本并理解复杂的用户指令，然后通过扩散模型生成视频。

扩散模型（Diffusion Models）是深度学习领域中一种强大的生成模型，它最近在生成图像、音频和其他类型的数据方面取得了显著的进展。扩散模型的核心思想是模拟物理过程中的扩散现象，将其应用于数据生成。 原理和核心技术思想： 1. 正向过程（Forward Process）： 扩散模型的灵感来源于物理学中的扩散现象，比如一滴墨水在清水中逐渐扩散开来。 在数据生成的上下文中，正向过程模拟了数据逐渐“变得随机”的过程。从一个确定的输入数据点（比如一张清晰的图片）开始，通过逐步添加噪声，将其转化为一个完全随机的噪声分布。 2. 逆向过程（Reverse Process）： 与正向过程相反，逆向过程的目标是从噪声数据重构出原始数据。 这个过程就像是逆转扩散过程，逐步预测并去除噪声，最终恢复出清晰的数据。 3. 概率框架： 扩散模型在概率框架下工作，它定义了数据从初始状态到噪声状态的马尔可夫链，以及从噪声状态恢复到初始状态的逆马尔可夫链。 4. 训练过程： 通过训练一个神经网络来学习逆向过程中的每一步，即如何从噪声数据中去除噪声并逐步恢复出原始数据。 工作流程： 1. 初始化： 选择一个初始数据点，比如一张图片。 2. 正向扩散： 通过逐步添加噪声，将初始数据点转化为噪声数据。这个过程可以看作是一系列逐步增加噪声的步骤。 3. 训练逆向模型： 使用神经网络学习如何逆转扩散过程。在训练阶段，网络会接收到部分噪声数据，并尝试预测原始数据。 4. 逆向去噪： 在生成阶段，从随机噪声开始，利用训练好的神经网络逐步去除噪声，每一步都使数据更接近原始状态。 5. 生成数据： 经过多轮逆向去噪步骤后，最终生成清晰的数据，如高质量的图片或音频。 扩散模型的一个关键优势是它能够生成高保真度的复杂数据，如高分辨率的图像。此外，由于其概率性质，它还可以生成多样化的数据样本，为数据生成任务提供了新的可能性。 扩散模型在生成任务中取得的成果令人瞩目，但同时也需要大量的计算资源，因为它们通常需要数百到数千个步骤来生成数据。不过，随着硬件的发展和模型优化，扩散模型的应用前景非常广阔。

以下是为您提供的一些参考，帮助您在面试 AI 产品经理岗位时介绍对应的 AI 项目： 在您所做的 AI 深度解读功能项目中，可以从以下几个方面进行介绍： 项目背景：阐述开展该项目的原因和目标，例如为了提升医疗服务的效率和准确性，满足用户对深度医疗解读的需求等。 项目职责：详细说明您在项目中的具体职责，如需求分析、产品规划、与开发团队协作、与用户沟通获取反馈等。 技术实现：描述项目中所运用的关键技术，如触发 AI 与用户沟通的机制、如何将用户信息写入病历等。 用户体验优化：提及为提升用户体验所采取的措施，比如优化报告页面的设计、提高 AI 沟通的自然度和准确性等。 成果与效益：展示项目取得的成果，如提高了医生的诊断效率、提升了用户满意度等。 此外，您还可以参考以下其他相关人员的项目经验： 秦超作为 AI 2C 项目负责人，在产品落地服务方面具有丰富的经验，包括产品、技术架构以及项目管理等。 Cici?在 AI 算法开发领域，将宠物与 AI 结合，具备 AI 产品研发和创业经验。 11 鸭鸭呀作为产品经理，在智能写作产品方面有 Prompt 撰写和 AI 应用的经验。 枫 share 作为产品经理，熟悉 ChatGPT，写过 prompt，使用过多种 AI 创作工具，并正在寻找 AI 方向的产品岗位。 行远作为产品经理，熟悉 prompt，部署过多种绘图项目，使用过多款 AI 创作工具，期待学习和实战案例应用。 希望以上内容对您有所帮助，祝您面试成功！

以下是关于 deepseek 论文解读的相关内容： 直播视频回放：可获取相关视频。 相关论文下载： 技巧分享：包括万能提示词的使用技巧。 社区动态： 《》介绍了 DeepSeek 最新论文提出的“Native Sparse Attention”（NSA），一种高效的超长上下文方案，兼顾训练和推理阶段，显著提升模型性能。 《》介绍了基于 Coze 平台的视频生成工作流，通过全自动化流程实现从文案创作到短视频生成的高效操作。 历史更新： 《》对照解读了春节前的 DeepSeek 相关模型的技术报告。 《》介绍了 DeepSeek 官方下场推荐的部署 DeepSeekR1 的设置。 《》介绍了火山方舟大模型服务平台上线 DeepSeek 系列模型及相关活动。

大模型的底层原理主要包括以下几个方面： 1. 生成式：大模型根据已有的输入为基础，不断计算生成下一个字词（token），逐字完成回答。例如，从给定的提示词“how”开始，通过计算推理依次输出“are”“you”等，直到计算出下一个词是“”时结束输出。 2. 预训练：大模型“脑袋”里存储的知识都是预先学习好的，这个预先学习并把对知识的理解存储记忆在“脑袋”里的过程称为预训练。以 GPT3 为例，训练它使用了约 4990 亿 token 的数据集，相当于 86 万本《西游记》。预训练需要花费大量时间和算力资源，且在没有外部帮助的情况下，大模型所知道的知识信息是不完备和滞后的。 3. 转换器模型（Transformer）：Transformer 是一种处理文本内容的经典模型架构，虽然其具体细节不清楚不影响使用大模型，但感兴趣的可以通过相关链接进一步了解。 4. 参数规模：依靠概率计算逐字接龙的方法看似难以生成高质量回答，但随着参数规模的增加，如从 GPT1 的 1.5 亿到 GPT3.5 的 1750 亿，实现了量变到质变的突破，“涌现”出惊人的“智能”。这种“涌现”现象在人类的进化和个体学习成长历程中也存在。

以下是关于利用 AI 完成技术论文的学习阅读，并结合相关知识体系解读论文制作学习分享 PPT 的一些建议： 在技术论文学习阅读方面： 可以借助 AI 工具，如 Claude 和 Gamma.app。Claude 能够帮助快速寻找符合条件的论文、提取精炼论文中某部分信息。 对于复杂推理，可以利用思维链，谷歌在 2022 年的论文提到其能显著提升大语言模型在复杂推理的能力，即使不用小样本提示，也可在问题后加“请你分步骤思考”。 检索增强生成（RAG）能将外部知识库切分成段落后转成向量，存在向量数据库。用户提问并查找到向量数据库后，段落信息会和原本的问题一块传给 AI，可搭建企业知识库和个人知识库。 程序辅助语言模型（PAL）在 2022 年的论文中被提出，对于语言模型的计算问题，可借助其他工具如 Python 解释器作为计算工具。 ReAct 框架于 2022 年在《React:在语言模型中协同推理与行动》的论文中提出，即 reason 与 action 结合，让模型动态推理并采取行动与外界环境互动，可借助 LangChain 等框架简化构建流程。 在制作学习分享 PPT 方面： 可以先对论文进行深入理解，提取关键信息，包括摘要描述、研究问题、基本假设、实验方法、实验结论、文章主要结论、研究展望等。 利用 AI 工具获取相关理论的简单介绍。 了解并使用合适的 PPT 制作工具，如 Gamma.app。 需要注意的是，小白直接看技术论文有难度，需要一定的知识储备。同时，Transformer 是仿生算法的阶段性实现，未来 10 年、20 年可能不再被使用。

大模型在文档投喂后解读文档并提取答案的过程通常包括以下步骤： 1. 问题解析阶段：接收并预处理问题，通过嵌入模型（如 Word2Vec、GloVe、BERT）将问题文本转化为向量，以确保问题向量能有效用于后续检索。 2. 知识库检索阶段：知识库中的文档同样向量化后，比较问题向量与文档向量，选择最相关的信息片段，并抽取相关信息传递给下一步骤。 3. 信息整合阶段：接收检索到的信息，与上下文构建形成融合、全面的信息文本。整合信息准备进入生成阶段。 4. 大模型生成回答：整合后的信息被转化为向量并输入到 LLM（大语言模型），模型逐词构建回答，最终输出给用户。 在这个过程中还包括以下信息处理步骤： 1. 信息筛选与确认：系统会对检索器提供的信息进行评估，筛选出最相关和最可信的内容，同时对信息的来源、时效性和相关性进行验证。 2. 消除冗余：识别和去除多个文档或数据源中可能存在的重复信息，以防在生成回答时出现重复或相互矛盾的信息。 3. 关系映射：分析不同信息片段之间的逻辑和事实关系，如因果、对比、顺序等，构建一个结构化的知识框架，使信息在语义上更加连贯。 4. 上下文构建：将筛选和结构化的信息组织成一个连贯的上下文环境，包括对信息进行排序、归类和整合，形成一个统一的叙述或解答框架。 5. 语义融合：在必要时，合并意义相近但表达不同的信息片段，以减少语义上的重复并增强信息的表达力。 6. 预备生成阶段：整合好的上下文信息被编码成适合生成器处理的格式，如将文本转化为适合输入到生成模型的向量形式。 最终，全新的上下文被一起传递给大语言模型。由于这个上下文包括了检索到的信息，大语言模型相当于同时拿到了问题和参考答案，通过 LLM 的全文理解，最后生成一个准确和连贯的答案。 相关概念： LLM：Large language model 的缩写，即大语言模型。 Prompt：中文译作提示词，是输入给大模型的文本内容，可以理解为和大模型说的话、下达的指令。 Token：大模型语言体系中的最小单元，不同厂商的大模型对中文文本的切分方法不同，通常 1Token≈12 个汉字，大模型的收费计算方法及对输入输出长度的限制通常以 token 为单位计量。 上下文：英文通常翻译为 context，指对话聊天内容前、后的内容信息，上下文长度和上下文窗口都会影响大模型回答的质量。

以下是关于数据解读类的 AI 大模型的相关知识： 大模型的整体架构可以分为以下几层： 1. 基础层：为大模型提供硬件支撑和数据支持，例如 A100、数据服务器等。 2. 数据层：这里的数据层不是用于基层模型训练的数据基集，而是企业根据自身特性维护的垂域数据，分为静态的知识库和动态的三方数据集。 3. 模型层：包括 LLm（大语言模型，例如 GPT，一般使用 transformer 算法来实现）或多模态模型（如市面上的文生图、图生图等的模型，训练所用的数据与 llm 不同，用的是图文或声音等多模态的数据集）。 4. 平台层：模型与应用间的平台部分，比如大模型的评测体系，或者 langchain 平台等，提供模型与应用间的组成部分。 5. 表现层：也就是应用层，是用户实际看到的地方。 相关技术名词及概念： 1. 生成式 AI 生成的内容叫做 AIGC。 2. AI 即人工智能。 3. 机器学习是电脑找规律学习，包括监督学习、无监督学习、强化学习。 监督学习：有标签的训练数据，算法的目标是学习输入和输出之间的映射关系，包括分类和回归。 无监督学习：学习的数据没有标签，算法自主发现规律，经典任务包括聚类。 强化学习：从反馈里学习，最大化奖励或最小化损失，类似训小狗。 4. 深度学习是一种参照人脑有神经网络和神经元（因有很多层所以叫深度）的方法，神经网络可以用于监督学习、无监督学习、强化学习。 5. 生成式 AI 可以生成文本、图片、音频、视频等内容形式。 6. LLM 是大语言模型，对于生成式 AI，其中生成图像的扩散模型就不是大语言模型；对于大语言模型，生成只是其中一个处理任务，比如谷歌的 BERT 模型，可用于语义理解（不擅长文本生成），如上下文理解、情感分析、文本分类。 技术里程碑：2017 年 6 月，谷歌团队发表论文《Attention is All You Need》，首次提出了 Transformer 模型，它完全基于自注意力机制（SelfAttention）来处理序列数据，而不需要依赖于循环神经网络（RNN）或卷积神经网络（CNN），Transformer 比 RNN 更适合处理文本的长距离依赖性。