深度学习模型图

基于全年研究积累的三十余万字AI进展数据库，对当前AI发展进行阶段性总结具有重要意义。为了系统呈现AI发展的关键技术要点和趋势，该报告精选了50个年度关键词，覆盖大模型技术的八大领域：图像处理、视频生成、3D生成、编程助手、Agent、端侧智能、具身智能和基础模型；借鉴大模型的思维特征，创新性1的通过"快思考"与"慢思考"两种维度进行分析，形成了50张AI技术图景卡片。•"快思考"维度呈现印象卡片，采用人机协同方式完成。项目团队研究人员主导提示词工程与价值判断，把握内容方向；AI系统负责执行，最终绘制输出技术定义、图示与总结语；•"慢思考"维度则深入分析技术发展的底层逻辑。重点整合研究团队在圆桌讨论和专题研究中的深度思考，借助AI辅助梳理出逻辑链条、本质洞见与趋势判断，为读者勾勒AI发展的脉络与方向。AI技术呈现持续演进、动态发展的特征。该报告通过50个关键词构建的技术图景，旨在展现AI发展的重点领域，把握未来关键趋势，为各界提供研究与决策参考。腾讯研究院将持续深化AI&Society领域的探索，并诚挚的邀请各界好友一共关注与参与，一起迈向一个智能共生的时代。——腾讯研究院院长司晓23DiT架构结合扩散模型和Transformer的架构，用于高质量图像生成的深度学习模型。核心观察A:Transformer从文本扩展至其它B:DiT架构带来图像生成质的飞跃C:Scaling Law在图像领域开始生效逻辑链条

深度学习要处理的信息比作水流，处理这些数据的深度学习网络是由管道和阀门组成的庞大的水管网络，网络的入口和出口有许多管道开口，这个水管网络有许多层，每一层都有控制水流流向与流量的调节阀。根据不同的任务，层数，每层调节阀的数量可以有不同的变化组合。水管网络中，每层的每个调节阀通过水管与下一层的每个调节阀连接起来，形成一个从前到后逐层连通的水流系统。比如，现在要识别田字，就简单将组成这张图片的所有数字（计算机中所有的点都由0和1组成的数字来表示的）全都变成信息的水流，从入口灌入水管网络。预先在水管网络的每一个出口设立一个字牌，当水流流过水管网络的时候，计算机就会跑到管道出口去看一看是否标记为田字的管道出口流出的水流最多，如果是的话，这个管道网咯符合我们的预期要求，如果不是的话，就需要调节每一个调节阀，直到田字出口流出的谁最多。接下来，比如要识别申字，用类似的方法，把每一张写有申字的图片变为大量的数字组成的水流，灌入水管网络，这一次既要保证申字出口的水流最多，又要保证之前学习的田字不受影响。如此反复进行，直到所有的汉字组成的水流都能按照期望的方式流经整个水管网络，这时我们就说，这个水管网络已经是训练好的深度学习模型了，大量的数字流经整个水管网络后，通过调节阀门，整套水管网络就可以识别汉字了，这样就可以将调节好的每个阀门焊死。静候新的水流的到来。新来的图片转换成数字水流后，灌入整个网络，计算机观察一下哪个口流出的水流多，这张图片写的就是哪个字。

一、视频一主要回答了什么是AI大模型，原理是什么。1、概念：生成式AI生成的内容，叫做AIGC2、概念与关系：相关技术名词1）AI——人工智能2）机器学习——电脑找规律学习，包括监督学习、无监督学习、强化学习。3）监督学习——有标签的训练数据，算法的目标是学习输入和输出之间的映射关系。包括分类和回归。4）无监督学习——学习的数据没有标签，算法自主发现规律。经典任务包括聚类，比如拿一堆新闻文章，让模型根据主题或内容特征分成具有相似特征的组。5）强化学习——从反馈里学习，最大化奖励或最小化损失；类似训小狗。6）深度学习——一种方法，参照人脑有神经网络和神经元（因为有很多层所以叫深度）。神经网络可以用于监督学习、无监督学习、强化学习。7）生成式AI——可以生成文本、图片、音频、视频等内容形式8）LLM——大语言模型。对于生成式AI，其中生成图像的扩散模型就不是大语言模型；对于大语言模型，生成只是其中一个处理任务，比如谷歌的BERT模型，可用于语义理解（不擅长文本生成），如上下文理解、情感分析、文本分类；3、技术里程碑——2017年6月，谷歌团队发表论文《Attention is All You Need》。这篇论文首次提出了Transformer模型，它完全基于自注意力机制（Self-Attention）来处理序列数据，而不需要依赖于循环神经网络（RNN）或卷积神经网络（CNN）。