机器学习入门理论基础|莫烦

Linear

Nonelinear

y=Wx , y为预测值，W为参数，x为输入值

y=AF(Wx)

AF激励函数，relu, sigmoid, tanh，微分函数

少量层结构

卷积云  -> relu

RNN循环  -> relu or tanh

activation function AF

linear/nonlinear

AF 函数：relu, sigmoid, tanh

AF要可微分 （在Back Propegation反向传递中把误差传递回去）

在层数较多时，AF选择要避免梯度爆炸/梯度消失

CNN: Relu

RNN: Relu or tanh