深度学习（一）.pdf

机器学习分类（按目的来分） 判别模型 生成模型 由数据直接学习决策函数Y=f(X)或者条件概率分布P(Y|X)作为预测的模型，即判别模型。基本思想 是有限样本条件下建立判别函数，不考虑样本的产生模型，直接研究预测模型。典型的判别模型 包括k近邻，感知级，决策树，支持向量机等。 由数据学习联合概率密度分布P(X,Y)，然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型： P(Y|X)= P(X,Y)/ P(X)。 机器学习分类（按学习方式） 有监督学习 无监督学习 半监督学习 神经网络简介 人脑神经元的机制 感知机模型 样本、输入、输出、净输出、激活、前向、后向 线性可分与线性不可 激活函数 激活函数的作用和性质 激活函数的作用 提供非线性能力 性质 处处可微分 增强鲁棒性 值域是-1到1或者0到1，定义域负无穷到正无穷 定义域在-1到1之间的函数图像梯度很大，而在其他地方梯度很小 输入归一化和去均值化 归一化 进行归一化的原因是把各个特征的尺度控制在相同的范围内，这样