不同的生物有不同的视觉系统,相同的图片经过不同的视觉系统可能的到不同的图像,卷积神经网络本质上是模拟了人的生物视觉系统。卷积圣经网络通常用于网格结构数据,如图像、时序数据(NLP)等
传统常用图像人工特征提取方法:
- SIFT:Scale Invariant Feature Transform
- Hog:Histogram of Oriented Gradients
卷积神经网络就是至少一层使用卷积运算的神经网络,其特性包含:
- 稀疏交互(Sparse interaction)
- 参数共享(Parameter sharing)
- 等变表示(Equivariant representation)
基本运算包含:
- 卷积:提取特征
- 池化:降维
CNN的特性:
- 稀疏连接:卷积和的规模远小于图像规模,层数越深,感受野越大
- 参数共享:在同一层中,卷积核里面的权重不变,与全连接相比,可以节省很大空间
- 等变表示:多次变化、顺序无关。函数相互独立。f(g(x)) = g(f(x))