机器学习实战 - k近邻算法(KNN算法)总结
适合机器学习实战入门新手
K-近邻算法,又称为 KNN 算法,是数据挖掘技术中原理最简单的算法。
KNN 的工作原理:给定一个已知类别标签的数据训练集,输入没有标签的新数据后,在训练数据集中找到与新数据最临近的 K 个实例。如果这 K 个实例的多数属于某个类别,那么新数据就属于这个类别。
优点
1简单好用,容易理解,精度高,理论成熟,即可以用来做分类也可以用来做回归
2可用于数值型数据和离散型数据
3无数据输入假定
4适合对稀有事件进行分类
缺点
1计算复杂性高;空间复杂性高
2计算量太大,所以一般数值很大的时候不用这个,但是单个样本又不能太少,否则容易发生误分
3样本不平衡问题(即某些类别的样本数量很多,某些类别的样本数量很少)
4可理解性比较差,无法给出数据的内在含义
1