Navigate to WaytoAGI Wiki →
Home/question.detail.breadcrumb.questionList/question.detail.breadcrumb.questionDetail

ocr大模型的原理

Answer

OCR 大模型的原理如下:

  1. 生成式:大模型根据已有的输入为基础,不断计算生成下一个字词(token),逐字完成回答。例如,一开始给定提示词,大模型结合自身存储的知识进行计算推理,算出下一个单词的概率并输出,新的输出与过去的输入一起成为新的输入来计算下一个词,直到计算出[end of text]的概率最大时结束输出。
  2. 预训练:大模型“脑袋”里存储的知识都是预先学习好的,这个预先学习并把对知识的理解存储记忆在“脑袋”里的过程称为预训练。预训练需要花费大量时间和算力资源,且在没有其他外部帮助的情况下,大模型所知道的知识信息可能不完备和滞后。
  3. 规模效应:参数规模的增加使得大模型实现了量变到质变的突破,最终“涌现”出惊人的“智能”。就像人类自身,无论是物种进化还是个体学习成长,都有类似“涌现”的结构。
Content generated by AI large model, please carefully verify (powered by aily)

References

走入AI的世界

总结一下,以上这段讨论,你要重点记住这句话:模仿人类大脑结构的AI,也自然而然的表现出人的特征,很多我们应对大模型回答不及预期的解决之道,也和人与人交流沟通的技巧如出一辙,息息相关。关于这一点,我们会在后续各种真实案例的分析拆解中再来讨论。GPT的全称是生成式预训练转换器模型(Generative Pre-trained Transformer),他的名字里就蕴含了大量重要的信息,接下来我们来聊聊GPT这三个字母的分别含义:图14 Generative Pre-trained Transformer生成式(Generative):所谓生成式,说的是大模型是根据已有的输入为基础,不断计算生成下一个字词(token),从而逐字完成回答的过程。这一过程,像极了一个单字接龙的游戏,图15中给出了一个简单的例子做为说明:1.一开始我们给了大模型一些提示词Prompt,为了简化,在图中这个提示词只有一个单词:How;2.接下来,大模型会结合自己“大脑中存储的知识”进行计算推理,算出how后面接are这个单词的概率最大,于是输出are接在how后面;3.在已知how are的情况下,大模型再次推理计算,算出how are后面接you这个单词概率最大,于是输出you接在how are后面;4.不断重复上面步骤,每次大模型会多输出一个词(token),新的输出会和过去的输入一并成为新的输入,用来计算下一个词;5.直到计算出下一个词是[end of text]的概率最大,于是结束输出,回答结束([end of text]是一个特殊的token,用来终止对话输出)

走入AI的世界

没错,这就是大语言模型真实工作的样子,平时使用大模型看到他逐字输出的样子,并不是程序员做的酷炫“打字机”效果,而是大模型就是如此这般工作的。按照我们的常识认知,这种依靠概率计算逐字接龙的方法,恐怕连生成一个通顺的句子都难,更别提生成高质量有意义的回答了,为什么这种方法会有效呢?答案就是大,GPT-1的参数规模是1.5亿,GPT-2 Medium的参数规模是3.5亿,到GPT-3.5时,他的参数规模来到了惊人的1750亿,我们常说大力出奇迹,参数规模的增加,使得大模型实现了量变到质变的突破,最终“涌现”出了这种惊人的“智能”。反观人类自身,无论是长周期看物种的进化,还是短周期看一个个体的学习成长历程,都有这样“涌现”的结构,就像当我打下这些文字的时候,我的大脑也在神奇的进行着快速的语言组织,这个边打字边思考边输出的过程,又何尝不是一场接龙游戏呢?图15文字接龙游戏预训练(Pre-trained):正如我们前面五点朴素洞察提到的,人类是不知道自己没见过/学过的知识的,大模型也是如此,大模型“脑袋”里存储的知识,都是预先学习好的,这个预先学习并把对知识理解存储记忆在“脑袋”里的过程,就称为预训练。预训练是需要花费相当多的时间和算力资源的,当你了解并意识到预训练机制的时候,你就会明白,在没有其他外部帮助(例如使用浏览器插件,RAG等)的情况下,大模型所知道的知识信息总是不完备的,滞后的(非实时)。

【SD】软件原理傻瓜级理解

如果不会科学上网,也可以去启动器的界面直接下载模型,当然这里是看不见预览图的,但从名字你可能看不出这个模型是什么风格。将下载的大模型放在根目录的这个文件夹下【……\models\Stable-diffusion】,我们就可以在左上角的模型列表中进行选择了。(看不到就点旁边的蓝色按钮刷新一下)。旁边这个VAE,相当于是给模型增加一个提高饱和度的滤镜和一些局部上的细节微调。当然有的大模型本身就自带VAE,所以就不用再加了。VAE可以直接在启动器里面下载,下载的VAE放在根目录的这个文件夹下【……\models\VAE】。接下来要理解的一个概念是Embedding,这个功能相当于是一个提示词打包的功能。比如你想画一个娜美的人物形象,但是想要固定一个人物形象往往要几十条什么上百条提示词,比如性别、头发、脸型、眼睛、身材等等一大堆精确指向的词汇。那这个时候,就有人将这些提示词整合到一起做成了一个Embedding文件,你只需要使用一个提示词,就可以直接引入这个人物形象进行创作了。下载Embedding的地方同样是在C站,通过右上角的筛选Textual Inversion就可以找到,放在根目录下的embeddings文件夹里即可。接下来,讲一讲最重要的这个LORA,有了LORA就可以将人物或者物品接近完美地复刻进图像中,这就有了极大的商用价值。比如这个“墨心”的LORA,就可以把你的图片变成水墨风格。这个盲盒LORA可以生成这种2.5D的卡通小人角色。或者是一些明星角色的LORA,直接生成真人形象。还有知名的动漫角色,由于LORA其极其强大的功能,所以在使用上,大家需要有很强的版权和法律意识,所谓能力越大、责任越大,玩得太花,小心律师函到你家。

Others are asking
ocr
关于 OCR 的相关信息如下: GPT 的 OCR 识别问题及解决方案: 问题:开启代码执行功能时,GPT 会尝试用代码完成 OCR,导致无法正确识别图片文字。 解决方案: 如果是自定义 GPT,关闭 Code Interpreter。 无法关闭时,提问时明确说明“不要执行代码,请用自身多模态能力识别文字”。 直接使用 ChatGPT,而非 GPT。参考链接: 开源的 Zerox OCR 工具: 支持 PDF、DOCX 转换为 Markdown。 可并发处理,能选择特定页面及模型选项。详细介绍参考:
2024-12-26
用大模型将扫描版PDF进行OCR的工具
以下是一些关于用大模型将扫描版 PDF 进行 OCR 的工具的相关信息: kimi 目前不支持扫描版本的 PDF,需要纯文字才能识别。 大模型招投标文件关键数据提取方案中的输入模块设计,支持多种格式的文档输入,包括 PDF 等。对于图片,可以借助开放平台工具中的 OCR 工具进行文本提取。 在 0 基础跨界 AI 编程共学零基础手搓 AI 拍立得银海的相关内容中,提到了将 OCR 添加到工作流程中,输入为一张图片,具备图像理解和识别图像文本信息两个能力,之后以这两个能力生成的内容为输入使用大模型生成文案标题和文案。
2024-12-11
推荐可以OCR的AI
目前在 OCR(光学字符识别)领域,有一些表现出色的 AI 工具,例如百度 OCR、腾讯 OCR 等。这些工具通常具有较高的识别准确率和丰富的功能,可以满足不同场景下的 OCR 需求。
2024-09-26
推荐下好用的具备图像OCR能力的大模型
目前在具备图像 OCR 能力的大模型方面,一些较为知名和好用的包括百度的文心大模型、阿里云的通义大模型等。但大模型的性能和适用场景可能会因具体需求和使用场景的不同而有所差异。您可以根据自己的具体需求进一步评估和选择。
2024-09-19
OCR文字 识别的软件
以下为您介绍一些与 OCR 文字识别相关的内容: 在“安仔:我用 Coze 免费手搓了一个 24 小时英语陪练,根治了我多年的哑巴英语”中提到使用了 Simple OCR 插件,它能够识别图片中的文字,并返回识别结果,用于读取用户上传图片或文件的文字,并做相应处理。 在移动端图片视觉处理方面,对于试卷拍照去除书写笔迹,有以下详细方法: 1. 图像预处理: 图像去噪:使用高斯滤波、中值滤波等去噪算法去除图像中的噪声。 图像增强:通过直方图均衡化、对比度增强等增强算法提升图像的清晰度和对比度。 2. 图像分割: 使用阈值分割、边缘检测和基于区域的分割等算法将试卷图像中的书写笔迹和背景分离。 3. 文字检测: 在分割后的图像中,使用基于深度学习的文本检测模型等文字检测算法识别出试卷上的文字区域。 4. 文字识别: 对检测到的文字区域进行文字识别,将文字内容转换为计算机可处理的文本数据。常用技术包括基于深度学习的端到端文本识别模型和传统的 OCR 技术。 5. 后处理: 根据需求进行后处理,如去除残余的噪点、填补文字区域的空白等。 6. 机器学习模型训练(可选): 如有足够的数据,可以采用机器学习技术训练模型,通过学习样本中的书写笔迹特征来自动去除试卷上的笔迹。 7. 优化算法:
2024-09-18
有沒有可以做OCR和formatting的AI 工具?
目前市面上有多种AI工具可以进行OCR(光学字符识别)和格式转换,以下是一些可用的工具: 1. 白描网页版OCR:提供在线图片文字提取服务,支持JPG/PNG/BMP/GIF/SVG格式的图片,并允许用户通过选择或拖拽图片到网页上进行文字识别 。 2. AI文字识别(OCR)工具:这是一个免费的在线OCR工具,支持中英文及数字的识别,并且基于浏览器运行,确保文件安全。用户可以通过选择图片来识别图像中的文本,并将其转换为可编辑的文本 。 3. iLoveOCR:这是一个在线OCR工具,可以将扫描的文档和图像转换成可编辑的Word、PDF、Excel、PowerPoint、ePub和Txt格式。支持多语言识别,并保证用户上传的文件在24小时后自动删除,注重隐私保护 。 4. 轻闪PDF OCR:提供在线服务,允许用户将PDF和图像文件转换成可编辑的格式,支持25种语言的OCR识别,并且界面简洁无广告,注重用户文件的安全性 。 这些工具通过AI技术提高了文字识别的准确性和效率,适用于将图片或PDF文件中的文字转换成可编辑的格式,非常适合需要大量文档处理和数据转换的用户。
2024-07-14
评测模型生图好坏的标准
评测模型生图好坏的标准主要包括以下几个方面: 1. 模型选择: 基础模型(Checkpoint):生图必需,不同模型适用于不同主题。 Lora:低阶自适应模型,可用于精细控制面部、材质、物品等细节。 ControlNet:控制图片中特定图像,如人物姿态、生成特定文字等。 VAE:类似于滤镜,可调整生图饱和度。 2. 提示词设置: 正向提示词(Prompt):描述想要 AI 生成的内容。 负向提示词(Negative Prompt):描述想要 AI 避免产生的内容。 3. 图片视觉质量: 自然度和美观度是关键指标。 可从数据和训练方法两方面提升,如使用特定的网络结构。 4. 文字生成能力: 目前未有模型具有良好的中文文字生成能力。 提升中文文字生成能力需从多方面准备数据。 需要注意的是,模型生图的效果并非完全由这些标准决定,还可能受到其他因素的影响,需要不断尝试和学习以获得更好的生图效果。
2024-12-26
目前字节有哪些可以运用到安全审核业务的大模型?
字节在安全审核业务中可能运用到的大模型包括: 1. Claude2100k 模型,其上下文上限是 100k Tokens,即 100000 个 token。 2. ChatGPT16k 模型,其上下文上限是 16k Tokens,即 16000 个 token。 3. ChatGPT432k 模型,其上下文上限是 32k Tokens,即 32000 个 token。 大模型的相关知识: 1. 大模型中的数字化便于计算机处理,为让计算机理解 Token 之间的联系,需把 Token 表示成稠密矩阵向量,这个过程称为 embedding,常见算法有基于统计的 Word2Vec、GloVe,基于深度网络的 CNN、RNN/LSTM,基于神经网络的 BERT、Doc2Vec 等。 2. 以 Transform 为代表的大模型采用自注意力机制来学习不同 token 之间的依赖关系,生成高质量 embedding。大模型的“大”指用于表达 token 之间关系的参数多,例如 GPT3 拥有 1750 亿参数。 3. 大模型的架构包括 encoderonly(适用于自然语言理解任务,如分类和情感分析,代表模型是 BERT)、encoderdecoder(同时结合 Transformer 架构的 encoder 和 decoder 来理解和生成内容,代表是 google 的 T5)、decoderonly(更擅长自然语言生成任务,典型使用包括故事写作和博客生成,众多 AI 助手基本都来自此架构)。大模型的特点包括预训练数据非常大(往往来自互联网,包括论文、代码、公开网页等,一般用 TB 级数据进行预训练)、参数非常多(如 Open 在 2020 年发布的 GPT3 已达到 170B 的参数)。
2024-12-25
大模型在金融领域的量化投研领域的应用
大模型在金融领域的量化投研领域有以下应用和特点: 1. 大型系统工程: 量化和大模型都需要大型计算集群,上万张卡的互联是对基础设施的极致挑战。量化对性能和效率有极致追求,交易指令速度至关重要;大模型在基础设施层面的每一点提升都能优化训练效率。 细节在大型系统工程中十分关键。量化交易系统包含多个方面,任何环节出问题都会导致交易系统失败;大模型预训练从数据到评估包含大量细节,如数据配比、顺序、训练策略等。 2. 本土化机会: 很多 Global 的量化基金到中国会水土不服,国家政策也限制其大规模开展业务,给国内量化基金崛起机会。 OpenAI、Google、Meta 等的模型中文能力一般,未对中国国情优化,不符合政策要求,给国内大模型公司本土化预训练机会。 两者都受政策影响极大,需要有效监管才能健康发展。 3. 其他相似之处: 少数精英的人赚大量的钱,做大模型和金融量化都不用很多人,但每个人都要绝顶聪明。 核心问题一样,下一个 token 预测和下一个股价预测类似。 都需要大量数据,都追求可解释性。 作者:黄文灏 源地址:https://zhuanlan.zhihu.com/p/646909899 最近和朋友讨论发现大模型预训练和金融量化有很多相似之处,作者恰好同时具有两者背景,做了对比。
2024-12-25
大模型在办公场景的应用
大模型在办公场景有诸多应用,具体如下: 基础办公提效:在 PPT、Excel、会议报告、策划会、文案包装、图文海报、客服机器人 bot 等方面,能从单个任务 task 到角色 role 再到角色间协同 collaboration 显著提高工作效率。 人力资源管理:覆盖招聘初期(如职位描述生成、简历分析、面试题设计)、员工绩效评估(分析员工工作表现,识别绩效趋势和提升点,为管理层提供数据支持的绩效反馈)以及员工培训与发展各个环节,提高工作效率。 通俗来讲,大模型是输入大量语料,让计算机获得类似人类的“思考”能力,能够理解自然语言,进行文本生成、推理问答、对话、文档摘要等工作。其训练和使用过程可类比为上学参加工作: 1. 找学校:训练大模型需要大量计算,GPU 更合适,只有购买得起大量 GPU 的才有资本训练自己的大模型。 2. 确定教材:大模型需要的数据量特别多,几千亿序列(Token)的输入基本是标配。 3. 找老师:即用合适的算法讲述“书本”中的内容,让大模型更好理解 Token 之间的关系。 4. 就业指导:为了让大模型更好胜任某一行业,需要进行微调(fine tuning)指导。 5. 搬砖:就业指导完成后,正式干活,比如进行翻译、问答等,在大模型里称之为推导(infer)。 在 LLM 中,Token 被视为模型处理和生成的文本单位,能代表单个字符、单词、子单词,甚至更大的语言单位,具体取决于所使用的分词方法(Tokenization)。Token 是原始文本数据与 LLM 可以使用的数字表示之间的桥梁。在将输入进行分词时,会对其进行数字化,形成一个词汇表(Vocabulary)。 此外,在游戏行业,大模型能降低成本,打造创新玩法,提供更好的游戏体验。如网易推出的首款 AI 手游《逆水寒》,将 AIGC 应用于美术开发,在 NPC 与玩家的交互上呈现独特剧情体验,还内嵌了全自动“AI 作词机”。在健身行业,AI 减重顾问既能解决售前客服问题,也能解决学员离开健身营之后的健康监护,提高学员体验。
2024-12-25
图像对比与图像搜索这块,有没有哪个ai大模型做的比较好比较深入的
在图像对比与图像搜索方面,以下是一些相关的 AI 大模型特点和应用: RAG(检索增强生成):通过引用外部数据源为模型做数据补充,适用于动态知识更新需求高的任务。其原理是在基础大模型基础上引用外部数据,对搜索到的数据信息进行切片、拆分和语义理解,再根据用户提问进行检索和回答,但比基座模型更耗时。RAG 是一个检索生成框架,能够支持在本地运行。 AI 搜索:结合了多种能力,如 fine tuning、实时联网查询和查询知识源等,能够为用户整理出想要的内容。一些 AI 搜索平台专注于特定领域,如为程序员提供代码搜索。 多模态大模型:像能唱会跳、精通多种技能的机器人,能看见、听见、思考、说话,例如能识别物体、听取指令等。 生成式模型和决策式模型:决策式模型偏向逻辑判断,按预设程序固定输出;生成式模型偏随机性,能动态组合并结构化呈现,如在图像识别中,决策式模型返回关键词,生成式模型用语言表达结构化信息。
2024-12-25
ChatGPT如何训练需要的模型
ChatGPT 的训练模型主要包括以下几个方面: 1. 预训练(Pretrain)阶段:建立模型的能力上限,如确定模型各方面能力的天花板。此阶段跟 GPT3 的方法近似,例如采用 decoderonly 的网络架构,有特定的模型大小、输入窗口大小、单词本大小,见过大量的 tokens,使用大量的原始训练文本。 2. 监督微调(Supervised Finetune,SFT)阶段:让模型学会对话的形式展开,即知道如何按照对话的格式进行交流。 3. 强化学习从人类反馈(Reinforcement Learning from Human Feedback,RLHF)阶段:细分为奖励模型(RM)阶段和强化学习(RL)阶段,能激发模型具备多种能力,包括安全性、推理能力和稳定性等。 训练方式主要是通过材料学习,不断形成模型。其本质功能是“单字接龙”,通过自回归生成的方式,将生成的下一个词与之前的上文组合,不断重复生成任意长的下文。训练的目的不是记忆,而是学习提问和回答的通用规律,实现举一反三,即泛化。学习材料用于调整模型,得到通用模型,以处理未被数据库记忆的情况。ChatGPT 不是搜索引擎的升级版,搜索引擎无法给出未被数据库记忆的信息,而 ChatGPT 作为生成模型可以创造不存在的文本,但可能存在混淆记忆、无法直接查看和更新所学、高度依赖学习材料以及缺乏及时性和准确性等缺点。
2024-12-24
请描述具身智能的技术原理
具身智能是人工智能领域的一个子领域,其原理包括以下几个方面: 1. 强调智能体通过与物理世界或虚拟环境的直接交互来发展和展现智能。智能体的“身体”或“形态”很重要,它可以是物理形态如机器人的机械结构,也可以是虚拟形态如模拟环境中的虚拟角色。这些身体为智能体提供了与环境互动的手段,并影响其学习和发展。 2. 涉及多个学科,如机器人学、认知科学、神经科学和计算机视觉等。在机器人学中关注设计能自主行动和适应环境的机器人;在认知科学和神经科学中探索大脑处理与身体相关信息的机制及应用于人造智能系统;在计算机视觉中致力于开发使智能体能够理解和解释视觉信息的算法。 3. 以“具身+智能”的范式,将机器学习算法适配至物理实体,与物理世界交互。例如将大模型嵌入到物理实体上,通过机器配备的传感器与人类交流。 4. 具身智能的三要素包括“本体”(硬件载体)、“智能”(大模型、语音、图像、控制、导航等算法)、“环境”(本体所交互的物理世界),三者高度耦合是高级智能的基础。 5. 行动分为“感知决策行动反馈”四个步骤,分别由四个模块完成并形成闭环。 6. 在追求人工通用智能(AGI)的过程中,具身 Agent 强调将智能系统与物理世界紧密结合,能够主动感知和理解所在环境并互动,产生具身行动。 具身智能在机器人领域,特别是服务机器人、工业自动化和辅助技术等方面有重要应用,也在虚拟现实、增强现实和游戏设计等领域广泛应用。但仍面临诸多挑战,如设计智能体身体以最大化智能表现、让智能体在复杂环境中有效学习、处理智能体与人类社会的伦理和安全问题等。
2024-12-25
AIGC的技术原理
AIGC(Artificial Intelligence Generated Content,人工智能生成内容)的技术原理如下: 生成式人工智能(GenAI):基于深度学习技术和机器学习算法,从已有数据中学习并生成新的数据或内容。通过大规模数据集训练深度神经网络模型,学习各种数据的规律和特征,实现对输入数据的分析、理解和生成。典型的 GenAI 包括 OpenAI 推出的语言模型 ChatGPT、GPT4、图像模型 DALLE 以及百度推出的文心一言、阿里云推出的通义千问等。 机器学习:让机器自动从资料中找到公式。 深度学习:一种更厉害的手段,类神经网络,具有非常大量参数的函数。 大语言模型:是一类具有大量参数的“深度学习”模型。 AIGC 工具通常以自然语言处理为基础,分析大型文本数据集,并学习如何生成风格和语气相似的新内容,从而能够生成包括文本、图像、音频、视频和三维模型等多种形式的内容。
2024-12-24
如何利用 AIGC 技术实现游戏产业的生产力革命,请结合相关技术的原理和框架图进行阐述
利用 AIGC 技术实现游戏产业的生产力革命主要体现在以下几个方面: 1. 降低开发成本:AIGC 技术能够极大程度地减少游戏开发过程中的人力、物力和时间投入。 2. 缩减制作周期:加快游戏的制作速度,使游戏能够更快地面向市场。 3. 提升游戏质量:例如生成新的高质量游戏内容,如地图、角色和场景,改进游戏的图像和声音效果等。 4. 带来新的交互体验:为玩家提供更加丰富和独特的游戏体验。 游戏人工智能技术的未来发展方向还包括: 1. 探索将游戏环境中的成果迁移至现实世界:电子游戏作为人工智能算法的测试场,为人工智能模型的构建与训练提供了理想化的场所,但将游戏中的技术推广到现实世界应用仍面临诸多挑战,需要进一步研究和发展。 2. 为通用人工智能的孵化给予帮助:经多个复杂游戏训练后的“玩游戏”的人工智能体,将为通用人工智能的发展提供支持。 随着游戏中生成式人工智能革命的进展,它将彻底重塑用户生成内容(UGC),创造一个任何人都可以构建游戏的世界,并将游戏市场扩大到超出许多人的想象。在未来几年,深厚的技术知识或艺术掌握将不再是开发游戏所需的基本技能,创作者只会受到他们的精力、创造力和想象力的限制。生成式人工智能将通过使游戏创作民主化来改变和颠覆 UGC 游戏领域,让数百万人能够制作他们的第一款游戏,新一代游戏开发者将释放出一波游戏设计创造力浪潮,从而永远改变游戏行业。
2024-12-24
卷积神经网络模型原理
卷积神经网络(CNN)通常由卷积层、池化层和全连接层叠加构成。在卷积过程中,卷积层中的卷积核依次与输入图像的像素做卷积运算来自动提取图像中的特征。卷积核尺寸一般小于图像,并以一定的步长在图像上移动得到特征图。步长设置越大,特征图尺寸越小,但过大步长会损失部分图像特征。此外,池化层作用于产生的特征图上,能保证 CNN 模型在不同形式的图像中识别出相同物体,同时减少模型对图像的内存需求,其最大特点是为 CNN 模型引入了空间不变性。
2024-12-19
ai原理
AI 的原理包括以下几个方面: 1. 概念:生成式 AI 生成的内容称为 AIGC。 2. 概念与关系: AI 即人工智能。 机器学习是电脑找规律学习,包括监督学习、无监督学习、强化学习。 监督学习使用有标签的训练数据,目标是学习输入和输出之间的映射关系,包括分类和回归。 无监督学习的数据没有标签,算法自主发现规律,经典任务如聚类。 强化学习从反馈中学习,以最大化奖励或最小化损失,类似训小狗。 深度学习是一种参照人脑的方法,具有神经网络和神经元,因层数多被称为深度,神经网络可用于监督学习、无监督学习、强化学习。 生成式 AI 可以生成文本、图片、音频、视频等内容形式。 LLM 是大语言模型,对于生成式 AI,生成图像的扩散模型不是大语言模型;对于大语言模型,生成只是其中一个处理任务,如谷歌的 BERT 模型可用于语义理解(不擅长文本生成),像上下文理解、情感分析、文本分类。 3. 技术里程碑:2017 年 6 月,谷歌团队发表论文《Attention is All You Need》,首次提出 Transformer 模型,它完全基于自注意力机制处理序列数据,无需依赖循环神经网络(RNN)或卷积神经网络(CNN),Transformer 比 RNN 更适合处理文本的长距离依赖性。
2024-12-19
deepfake的技术原理是什么?
深度伪造技术(deepfakes)是一种利用 AI 程序和深度学习算法实现音视频模拟和伪造的技术。其原理在于投入深度学习的内容库越大,合成的视音频真实性越高,甚至可以达到以假乱真的程度。例如,粉丝们会通过 Stems 音轨分离工具将人声与原始歌曲分离,再使用人声转换模型将人声转换成另一位明星的风格,然后将新的人声轨道与原始作品重新拼接在一起。DiffSVC 就是一种特别流行的用于此目的的语音传输模型。 目前,深度赝品的创建需要大量的计算技能,但现在几乎任何人都可以创建它们。生成式人工智能系统迅速导致了许多法律和道德问题,比如由人工智能创建的图像和视频声称是真实的,但实际上并非如此,已经出现在媒体、娱乐和政治领域。
2024-12-14