机器学习分类(按目的来分)
判别模型
生成模型
由数据直接学习决策函数Y=f(X)或者条件概率分布P(Y|X)作为预测的模型,即判别模型。基本思想
是有限样本条件下建立判别函数,不考虑样本的产生模型,直接研究预测模型。典型的判别模型
包括k近邻,感知级,决策树,支持向量机等。
由数据学习联合概率密度分布P(X,Y),然后求出条件概率分布P(Y|X)作为预测的模型,即生成模型:
P(Y|X)= P(X,Y)/ P(X)。
机器学习分类(按学习方式)
有监督学习
无监督学习
半监督学习
神经网络简介
人脑神经元的机制
感知机模型
样本、输入、输出、净输出、激活、前向、后向
线性可分与线性不可
激活函数
激活函数的作用和性质
激活函数的作用
提供非线性能力
性质
处处可微分
增强鲁棒性
值域是-1到1或者0到1,定义域负无穷到正无穷
定义域在-1到1之间的函数图像梯度很大,而在其他地方梯度很小
输入归一化和去均值化
归一化
进行归一化的原因是把各个特征的尺度控制在相同的范围内,这样
1