【中文字幕】2017春季CS231n 斯坦福深度视觉识别课

在数据不平衡的时候使用偏置值的方式来处理

按说也可以让学习器自己得出其中的规律（数据的不平衡分布情况），那样可能会导致得到的参数有较大的尺度差异，不利于学习器的泛化性能？

和我们自己的学习过程类比的话，加入偏置值的过程可以看成是当我们知道图片中猫的种类占据绝大多数后会在既有的经验上更倾向于预测猫，只是一个根据不同情况的即时调整过程，无关学习？

偏置项

与knn区别

在knn中没有设置参数，保存所有种类

线性分类器 将所有信息保存在参数中， 所以不需要保存训练数据，所以可以用在手机上

w维数 分类数*图片总像素

可视化权重矩阵W， 因为没一个行向量其实是对应类别的模板，所以可以单独把向量拿出来可视化成图片

线性分类器的缺点是每个类别只有一个模板

1. 线性分类：f=Wx+b  其中W的某一行可以看作是x的某种模板

linear分类

线性分类对于组成 神经网络

输入x

权重W

eg:

f(x,w)=wx+b

w代替整个训练数据

输出 10个数用来表示对于10个类的的得分

偏置量b表示的某一类的偏好值

线性分类 模板匹配

cifar-10

每个类别只能学习一个模板

线性分类器的几个困境

选择正确的权重和算法

【linear classification】

CIFAR-10，32*32*3，3个色彩通道。红色蓝色绿色

bia terms，偏置

【问题】

1、f = W*x + b，其中W是一个模板，问题是，在线性分类器中，每个类别学习一个单独模板。

2、要构造一个使其失效的数据集很容易

 线性边界

3、两个同类的物体出现在同一画面里，没办法被识别到那一类

Linear claafication

f(x, W)  = W * x + b

线性分类 linear classification

f(x,w)=Wx

输入一张picture,最简单的2x2，将它变成一个列向量，四行一列，4x1，有三个分类，想要结果是3X1，那么权重weignt=3X4,bias=3X1

3X4 * 4X1 =3X1