机器学习实战 - k近邻算法（KNN算法）总结

机器学习实战 - k近邻算法（KNN算法）总结 适合机器学习实战入门新手 K-近邻算法，又称为 KNN 算法，是数据挖掘技术中原理最简单的算法。 KNN 的工作原理：给定一个已知类别标签的数据训练集，输入没有标签的新数据后，在训练数据集中找到与新数据最临近的 K 个实例。如果这 K 个实例的多数属于某个类别，那么新数据就属于这个类别。 优点 1简单好用，容易理解，精度高，理论成熟，即可以用来做分类也可以用来做回归 2可用于数值型数据和离散型数据 3无数据输入假定 4适合对稀有事件进行分类 缺点 1计算复杂性高；空间复杂性高 2计算量太大，所以一般数值很大的时候不用这个，但是单个样本又不能太少，否则容易发生误分 3样本不平衡问题（即某些类别的样本数量很多，某些类别的样本数量很少） 4可理解性比较差，无法给出数据的内在含义