SVM（支持向量机）和前馈神经网络在以下方面存在区别：
图像识别：图像识别之前常常是由特征工程组成的，只是在最后加入一点点机器学习（比如：SVM）。之后，通过使用更大的数据集（比如ImageNet）和在卷积神经网络结构空间中进行搜索，我们发现了更强大的视觉特征。最近，我们甚至不再相信自己手写的网络结构，而开始用[类似的方法](https://arxiv.org/abs/1703.01041)[搜索](https://arxiv.org/abs/1703.01041)（最优网络结构）。语音识别：以前的语音识别工作，涉及到大量的预处理工作、高斯混合模型和隐式马尔科夫模型，但是现在，几乎只需要神经网络。还有一句与之非常相关的搞笑名言，是1985年Fred Jelinek所说：“每当我开除一个语言学家，我的语音识别系统的性能就会提高一点”。语音合成：历史上，语音合成一直采用各种拼接技术，但是现在，SOTA（State Of The Art）类型的大型卷积网络（比如[WaveNet](https://deepmind.com/blog/wavenet-launches-google-assistant/)）可以直接产生原始音频信号输出。机器翻译：机器翻译的实现之前常常采用基于短语的统计方法，但是神经网络正迅速占领了统治地位。我最喜欢的网络结构就与[多语言](https://arxiv.org/abs/1611.04558)[训练](https://arxiv.org/abs/1611.04558)有关：一个模型就可以把任意源语言翻译成任意目标语言，并且只需要很弱的监督（甚至是[完全的无监督](https://arxiv.org/abs/1710.11041)）。