:deciduous_tree: Python中的斜决策树 倾斜决策树实现的python接口： OC1 CART-线性组合（Breiman等，1984，第5章） 安装（Python 3） 首先使用以下命令安装numpy ： pip install numpy 然后运行： pip install git+https://github.com/AndriyMulyar/sklearn-oblique-tree 利用 可以使用普通的scikit-learn分类器api来诱导树木。 例如： from sklearn . datasets import load_iris , load_breast_cancer fro

Hyperopt-sklearn是基于scikit-learn项目的一个子集，其全称是：Hyper-parameter optimization for scikit-learn，即针对scikit-learn项目的超级参数优化工具。由于scikit-learn是基于Python的机器学习开源框架，因此Hyperopt-sklearn也基于Python语言。Hyperopt-sklearn的文档称：对于开发者而言，针对不同的训练数据挑选一个合适的分类器（classifier）通常是困难的。而且即使选好了分类器，后面的参数调试过程也相当乏味和耗时。更严重的是，还有许多情况是开发者好不容易调试好了选定的分类器，却发现一开始的选择本身就是错误的，这本身就浪费了大量的精力和时间。针对该问题，Hyperopt-sklearn提供了一种解决方案。Hyperopt-sklearn支持各种不同的搜索算法（包括随机搜索、Tree of Parzen Estimators、Annealing等），可以搜索所有支持的分类器（KNeightborsClassifier、KNeightborsClassifier、SGDClassifier等）或者在给定的分类器下搜索所有可能的参数配置，并评估最优选择。并且Hyperopt-sklearn还支持多种预处理流程，包括TfidfVectorizer，Normalzier和OneHotEncoder等。那么Hyperopt-sklearn的实际效果究竟如何？下表分别展示了使用scikit-learn默认参数和Hyperopt-sklearn优化参数运行的分类器的F-score分数，数据源来自20个不同的新闻组稿件。可以看到，经过优化的分类器的平均得分都要高于默认参数的情况。另外，Hyperopt-sklearn的编码量也很小，并且维护团队还提供了丰富的参考样例。 标签：Hyperopt

多标签分类使用 sklearn

hpbandster-sklearn hpbandster-sklearn是一个Python库，为超参数调整库提供了包装器HpBandSterSearchCV 。 动机 HpBandSter实现了几种尖端的超参数算法，包括HyperBand和BOHB。 它们通常优于标准的随机搜索，可以在更短的时间内找到最佳的参数组合。 HpBandSter功能强大且可配置，但对于初学者来说，其用法通常是不直观的，并且需要大量的样板代码。 为了解决该问题，创建了HpBandSterSearchCV来替代scikit-learn超参数搜索器，它遵循了众所周知的流行API，从而可以以最小的设置调整scikit-

包含中文文档和官方原版，用markdown文件写成，如有需要，可以下载阅读markdown文件的软件，已经分享。

sklearn-crfsuite sklearn-crfsuite 是一个瘦 ( ) 包装器，它提供了与类似的接口。 sklearn_crfsuite.CRF是一个 scikit-learn 兼容的估计器：您可以使用例如 scikit-learn 模型选择实用程序（交叉验证、超参数优化），或使用保存/加载 CRF 模型。 许可证是麻省理工学院。 文档可以在找到。

适用于python学习； 机器学习； 算法学习； 源代码；

B站课程《菜菜的机器学习sklearn》的配套教材和代码，老师讲解的很详细的课程，十分推荐。 课程链接：https://www.bilibili.com/video/BV1vJ41187hk?spm_id_from=333.337.search-card.all.click&vd_source=b8df0b3923b7bb6a73c8e66c9038159d

本文来自于csdn，本文中使用sklearn中的IRIS（鸢尾花）数据集来对特征处理功能进行说明。有这么一句话在业界广泛流传：数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已。那特征工程到底是什么呢？顾名思义，其本质是一项工程活动，目的是最大限度地从原始数据中提取特征以供算法和模型使用。通过总结和归纳，人们认为特征工程包括以下方面： 特征处理是特征工程的核心部分，sklearn提供了较为完整的特征处理方法，包括数据预处理，特征选择，降维等。首次接触到sklearn，通常会被其丰富且方便的算法模型库吸引，但是这里介绍的特征处

菜菜的sklearn机器学习完整版（课件、代码、ipynb） 01决策树课件数据源码 02随机森林 03数据预处理和特征工程 04主成分分析PCA与奇异值分解SVD 05逻辑回归与评分卡 06聚类算法Kmeans 07支持向量机上 08支持向量机下 09回归大家族：线性回归，岭回归，Lasso与多项式回归 010朴素贝叶斯 011XGBoost