首页 AI学术青年与开发者社区

机器学习必修之数学基础系列课程

开课时间:录播回放,在线学习
开课时长:线上视频课程,随到随学
机器学习 基础入门
会员免费
现价:¥699.00
原价:¥999.00

  开通会员,立省699元 立即开通

  当前课程,会员领券立减59元>>

课时3重点:线性变换,线性子空间,正交概念,矩阵的秩和逆,矩阵的条件数

[展开全文]

基础概念:

秩:在线性代数中,一个矩阵A的列秩是A的线性独立的纵列的极大数目。类似地,行秩是A的线性无关的横行的极大数目。通俗一点说,如果把矩阵看成一个个行向量或者列向量,秩就是这些行向量或者列向量的秩,也就是极大无关组中所含向量的个数。

奇异矩阵:秩不为满秩的矩阵。

对于条件数的补充:

κ(A)=‖A‖‖A−1‖
κ(A)=‖A‖‖A−1‖
如果方阵 A 是奇异的,那么 A 的 condition number 就是正无穷大了。实际上,每一个可逆方阵都存在一个 condition number。

对condition number来个一句话总结:condition number 是一个矩阵(或者它所描述的线性系统)的稳定性或者敏感度的度量,如果一个矩阵的 condition number 在1附近,那么它就是well-conditioned的,如果远大于1,那么它就是 ill-conditioned 的,如果一个系统是 ill-conditioned 的,它的输出结果就不要太相信了。

应用
ŵ =(XTX)−1XTb
w^=(XTX)−1XTb
如果当我们的样本 X 的数目比每个样本的维度还要小的时候,矩阵XTXXTX将会不是满秩的,也就是XTXXTX会变得不可逆,所以ŵ w^就没办法直接计算出来了。

如果加上L2规则项,就变成了下面这种情况,就可以直接求逆了:

ŵ =(XTX+λI)−1XTb
 

-------

转自https://blog.csdn.net/lanchunhui/article/details/51372831 

[展开全文]

线性空间:

线性变换:

非线性变换:

[展开全文]

1. 符号表示

R:实数

C:复数

 

2. 內积

內积:•[R^ n ;(a,b)= a ^T b ] ,

 

3. 线性变换

线性变换一定有矩阵表示的变换矩阵。

Y=AX

 

4. 行列式是针对方阵的。

[展开全文]

相关课程

开课日期:录播回放,在线学习开始
机器学习 基础入门 35796
开课日期:深度学习鼻祖Hinton公开课视频,随到随学开始
免费课 25413

授课教师

广东财经大学特聘教授;香港城市大学数学系博士
微信扫码分享课程