"机器学习面试题（3）" 决策树分类 决策树分类是机器学习中的一种重要算法，用于解决分类问题。决策树分类的基本思想是通过递归地将特征空间分割成更小的子空间，直到每个子空间只包含同一类别的样本为止。决策树分类的优点是易于理解和实现，且可以处理高维度特征空间，但其缺点是可能会出现过拟合的问题。 L1 和 L2 正则化 L1 和 L2 正则化是机器学习中两种常用的正则化技术。L1 正则化可以使权值稀疏，方便特征提取，而 L2 正则化可以防止过拟合，提升模型的泛化能力。L1 正则化的优点是可以自动进行特征选择，而 L2 正则化的优点是可以防止模型的过拟合。 逻辑回归 逻辑回归是机器学习中的一种常用的分类算法，用于解决二分类问题。逻辑回归的优点是可以输出概率值，且可以处理非线性关系的数据。但逻辑回归的缺点是需要选择合适的阈值，否则可能会出现错误的分类结果。 生成模型和判别模型 生成模型和判别模型是机器学习中两种不同的模型类型。生成模型学习的是联合概率密度分布函数 P(X,Y)，然后求出条件概率分布 P(Y|X)作为预测的模型。而判别模型学习的是条件概率分布 P(Y|X)作为预测的模型。生成模型的优点是可以学习到数据的分布信息，而判别模型的优点是可以直接学习到分类边界。 K-Means 算法 K-Means 算法是机器学习中的一种常用的聚类算法，用于将数据分割成 K 个簇。K-Means 算法的优点是易于实现和理解，但其缺点是需要选择合适的 K 值，否则可能会出现不良的聚类结果。 Softmax 函数 Softmax 函数是机器学习中的一种常用的输出层函数，用于将模型的输出值转换为概率分布。Softmax 函数的优点是可以输出概率值，并且可以处理多分类问题。 信息熵 信息熵是机器学习中的一种常用的评估指标，用于衡量模型的不确定性。信息熵的公式是 -(p1logp1+ …+pnlogpn)，其中 p1, p2, …, pn 是模型的输出概率值。 TensorFlow TensorFlow 是一个流行的机器学习框架，用于构建和训练机器学习模型。TensorFlow 的优点是可以自动微分、支持分布式训练和GPU 加速等，但其缺点是需要学习 TensorFlow 的编程接口和模型结构。 逻辑回归和线性回归 逻辑回归和线性回归是机器学习中两种常用的回归算法。逻辑回归用于解决二分类问题，而线性回归用于解决回归问题。逻辑回归的优点是可以输出概率值，而线性回归的优点是可以输出连续值。 RNN 和 CNN RNN 和 CNN 是机器学习中两种常用的深度学习模型。RNN 用于解决序列数据问题，而 CNN 用于解决图像识别问题。RNN 的优点是可以处理序列数据，而 CNN 的优点是可以自动学习图像特征。 朴素贝叶斯 朴素贝叶斯是机器学习中的一种常用的分类算法，基于贝叶斯定理。朴素贝叶斯的优点是易于实现和理解，但其缺点是假定所有特征在数据集中的作用是同样重要和独立的， WHICH IS NOT REALISTIC IN REAL-WORLD DATA.

作者于2018年夏秋开始备战机器学习算法岗，总结汇总了如此的面试和笔试经验，希望能够对众多童鞋有用。

这是很全的机器学习理论的知识，是最好的自学机器学习的速查文档和速学方式，里面的内容涵盖机器学习的很多领域，从机器学习面试题集锦，到特征工程，正则等基础知识，到sklearn，spark等分布式，从线性回归，逻辑回归，决策树，朴素贝叶斯，adaboost，xgb，lightgbm，GBDT等主流的监督学习算法，到聚类，pca等非监督学习算法，从推荐系统到关联分析，svd等。最后一个OTO实战。 希望能够帮助到自学机器学习的小伙伴。

本人搜集的BAT机器学习面试题，七月在线整理，共1500题，现有230题的详细分析。

这个是机器学习常见的一些面试题目，可能内容涵盖的不完全，对于没有基础的同学来说，一些概念的理解还是有帮助的。