卷积神经网络是一种在机器学习和计算机视觉领域广泛应用的神经网络架构。
1998 年,Yann LeCun 和他的合作者开发了 LeNet 的手写数字识别器,后来正式命名为卷积神经网络。它可用于从手写数字到 3D 物体的与物体识别有关的所有工作。
卷积神经网络使用卷积层,它过滤输入以获取有用信息,这些卷积层具有学习的参数,能自动调整滤波器以提取最有用信息。例如,在不同任务中,会分别过滤有关对象形状或颜色等的信息。通常,多个卷积层用于在每一层之后过滤图像以获得越来越多的抽象信息。
卷积网络通常也使用池层,以获得有限的平移和旋转不变性,还能减少内存消耗,从而允许使用更多的卷积层。
在卷积过程中,卷积层中的卷积核依次与输入图像的像素做卷积运算来自动提取图像中的特征。步长设置会影响特征图尺寸,池化层能保证模型在不同形式的图像中能识别出相同物体,同时减少模型对图像的内存需求,并为模型引入空间不变性。
1998年,Yann LeCun和他的合作者开发了LeNet的手写数字识别器。它在前馈网中使用反向传播,这个前馈网络不仅仅是一个识别器,它有许多隐藏层,每个层有许多复制单元的映射,汇集附近复制单元的输出,有一个即使重叠也能够同时处理几个字符的宽网,以及训练一套完整的系统的巧妙方式。后来正式命名为卷积神经网络。一个有趣的事实是:这个网络被用来读取北美地区约10%的支票。卷积神经网络可用于从手写数字到3D物体的与物体识别有关的所有工作。但是,从网下载的彩色照片中识别真实物体要比识别手写数字复杂得多。它百倍于手写数字的类别(1000:10),数百倍于手写数字的像素(256×256色:28×28灰度),是三维场景的二维图像,需要分割混乱场景,而且每个图片有多个对象。这样的情况下,相同类型的卷积神经网络会起作用吗?之后在ImageNet 2012年的ILSVRC竞赛(这个比赛被誉为计算机视觉的年度奥林匹克竞赛)中,题目是一个包含大约120万张高分辨率训练图像的数据集。测试图像不显示初始注释(没有分割或标签),算法要产生指定图像中存在什么对象的标签。来自Oxford、INRIA、XRCE等机构的先进计算机视觉小组用已有的最好计算机视觉方法应用于这个数据集。通常计算机视觉系统是复杂的多级系统,往往需要在早期阶段通过手动调参来优化。
卷积神经网络,或优选卷积网络或卷积网络(术语“神经”具有误导性;另请参见[人工神经元](https://developer.nvidia.com/zh-cn/blog/deep-learning-nutshell-core-concepts/#artificial-neuron))使用卷积[层](https://developer.nvidia.com/zh-cn/blog/deep-learning-nutshell-core-concepts/#layer)(参见[卷积](https://developer.nvidia.com/zh-cn/blog/deep-learning-nutshell-core-concepts/#%E5%8D%B7%E7%A7%AF)),它过滤输入以获取有用信息。这些卷积层具有学习的参数,以便自动调整这些滤波器以提取手头任务的最有用信息(参见特征学习)。例如,在一般的目标识别任务中,过滤有关对象形状的信息(对象通常具有非常不同的形状),而对于鸟类识别任务,它更适合于提取有关鸟的颜色的信息(大多数鸟的形状相似,但颜色不同);这里的颜色更能区分鸟类)。卷积网络会自动调整以找到这些任务的最佳特征。通常,多个卷积层用于在每一层之后过滤图像以获得越来越多的抽象信息(参见层次特征)。卷积网络通常也使用池层(见[联营](https://developer.nvidia.com/zh-cn/blog/deep-learning-nutshell-core-concepts/#%E8%81%94%E8%90%A5)),以获得有限的平移和旋转不变性(即使对象出现在不寻常的地方也能检测到)。池化还可以减少内存消耗,从而允许使用更多的卷积层。
机器之心分析师网络作者:周宇编辑:H4O本文以综述的形式,尽可能详细的向读者介绍胶囊网络的诞生,发展过程与应用前景。本文的内容以Hinton的标志性文章为基础,结合近年来发表在顶会顶刊的文章为补充,力图详细的让读者们了解胶囊网络的各种版本,熟悉它在不同领域的革命性突破,以及它在目前所存在的不足。深度学习和人工神经网络已经被证明在计算机视觉和自然语言处理等领域有很优异的表现,不过随着越来越多相关任务的提出,例如图像识别,物体检测,物体分割和语言翻译等,研究者们仍然需要更多有效的方法来解决其计算量和精度的问题。在已有的深度学习方法中,卷积神经网络(Convolutional Neural Networks)是应用最为广泛的一种模型。卷积神经网络通常简称为CNN,一般的CNN模型由卷积层(convolutional layer),池化层(pooling layer)和全连接层(fully-connected layer)叠加构成。在卷积的过程中,卷积层中的卷积核依次与输入图像的像素做卷积运算来自动提取图像中的特征。卷积核的尺寸一般小于图像并且以一定的步长(stride)在图像上移动着得到特征图。步长设置的越大,特征图的尺寸就越小,但是过大的步长会损失部分图像中的特征。此外,池化层也通常被作用于产生的特征图上,它能保证CNN模型在不同形式的图像中能识别出相同的物体,同时也减少了模型对图像的内存需求,它最大的特点是为CNN模型引入了空间不变性(spatial invariance)。