- 有些线性不可分的问题,通过转化就可以变为线性可分的问题
对于单层感知机,不能解决线性不可分的问题。其中XOR就是其中的一个特例。
但是如果将XOR通过转化获得一个更好的表示方法,就可以变成一个线性可分的问题了。
这样一个映射转化实际上相当于一个隐藏层.
- 单个隐藏层神经网络可以实现分类。
- 神经网络可以作为通用逼近器,去逼近任意复杂的函数。
这是Hornikzzai在1991年在a single hidden layer neural network with a linear output unit can approximate any continuous function arbitrarily well, given enough hidden units。这个需要无限多个神经元以及激活函数的配合实现,目前没有一个很好的学习型算法实现寻找神经网络必要的参数