【独家授权】神经网络系列课 ——Google Brain Hugo Larochelle

• 有些线性不可分的问题，通过转化就可以变为线性可分的问题

对于单层感知机，不能解决线性不可分的问题。其中XOR就是其中的一个特例。
但是如果将XOR通过转化获得一个更好的表示方法，就可以变成一个线性可分的问题了。

这样一个映射转化实际上相当于一个隐藏层.

• 单个隐藏层神经网络可以实现分类。
• 神经网络可以作为通用逼近器，去逼近任意复杂的函数。

这是Hornikzzai在1991年在a single hidden layer neural network with a linear output unit can approximate any continuous function arbitrarily well, given enough hidden units。这个需要无限多个神经元以及激活函数的配合实现，目前没有一个很好的学习型算法实现寻找神经网络必要的参数