MNIST数据集是机器学习领域一个非常经典的图像识别数据集，主要用于手写数字识别任务。这个数据集由Yann LeCun等人创建，包含了60,000个训练样本和10,000个测试样本，每个样本都是28x28像素的灰度图像，代表了一个0到9的手写数字。MNIST在深度学习和模式识别的研究中扮演了基础角色，是评估新算法性能的标准基准之一。 通常，MNIST数据集可以通过Python中的`sklearn`库的`fetch_mldata`函数轻松获取。然而，由于某些原因，如数据源的变化或者网络问题，可能无法直接使用该函数。在这种情况下，将MNIST数据集作为压缩文件（如"MNIST数据集.zip"）提供，可以确保用户能够离线访问这些数据。 `mnist-original.mat`文件是MATLAB格式的数据文件，它包含了MNIST数据集的原始数据。MATLAB是一种广泛使用的数值计算软件，其`.mat`文件可以存储变量、矩阵和其他数据结构。在Python环境中，我们可以使用`scipy.io.loadmat`函数来读取这个文件。数据通常被组织成两个主要部分：'images'（图像数据）和'labels'（对应的标签）。'images'是一个三维数组，维度为(60000, 1, 28, 28)或(10000, 1, 28, 28)（训练集和测试集），表示60,000或10,000个样本，每个样本是一个1通道的28x28像素图像。'labels'则是一个一维数组，包含对应的数字标签（0到9）。 `README.txt`文件通常包含关于数据集的描述、使用方法或其他相关信息。在MNIST数据集中，这个文件可能包括数据集的来源、创建者信息、版权声明以及如何加载和处理数据的指南。 在Python中处理MNIST数据集，除了使用`scipy.io.loadmat`之外，还可以使用其他库，比如`tensorflow`、`keras`或`pandas`。例如，`tensorflow`和`keras`提供了内置的`load_data`函数，可以直接加载MNIST数据，并且预处理为适合神经网络模型的形式。如果选择手动处理，需要注意将图像数据归一化到0-1范围，以及将标签从一维向量转换为独热编码（one-hot encoding）。 MNIST数据集是机器学习初学者和研究人员的重要资源，通过理解和处理这个数据集，可以学习到图像分类的基本步骤，包括数据预处理、模型构建、训练和评估。而`fetch_mldata`函数的替代方案，如使用本地的压缩文件，确保了即使在网络不畅时也能进行相关研究和实验。

sklearn库学习心得

PCA降维+利用svd降维+利用sklearn库svd降维

Scikit学习 Scikit-learn：是用于Python编程语言的免费软件机器学习库。 它具有各种分类，回归和聚类算法，包括支持向量机，随机森林，梯度提升，k均值和DBSCAN，并且旨在与Python数值和科学库NumPy和SciPy互操作。 机器学习中任何项目的步骤： 数据文件并附加数据 数据清理，并从功能之间的关联中学习。 功能选择 数据缩放 数据分割 选择最佳算法（回归分类-SVM-KMeans-KNN .....）。

sklearn安装 解压放在自己xx:\xx\Anaconda3\Lib\site-packages中即可

4.机器学习项目 我已经使用sklearn库实现了一些机器学习项目。

利用Python实现KNN算法，完成鸢尾花分类任务，实现步骤： 1. 数据集的准备。 (1)使用SCIKIT-LEARN的自带的鸢尾花数据集，获取数据集的后两个特征，形成原始数据集D。 (2)待决策样本集D1的产生：在原始二维特征空间，基于该数据集的两种特征取值的最小值、最大值，获取该数据集的矩形包围盒，并在该的矩形区域上下左右各个方向扩充1的基础上,以step=0.02为两种特征的采样间隔，在该矩形区域等间隔抽取离散位置，构成原始待决策的样本集D1。 (3)训练集与测试集的产生：将原始数据集D按照类别分层随机打乱，以hold-out方式划分为训练集(80%),以及测试集(20%) 2. 模型的选择 训练集的规范化预处理，并记录预处理使用的参数。 3. 基于测试集的K-近邻分类模型的评价。 (1)对测试集的每个样本进行预处理； (2)基于K值优选结果(或你设定的K值)，对预处理之后的每个测试样本进行类别预测，得到所有测试样本的类别预测结果。 (3)结合测试集各样本的类别预测结果及真实类别答案，生成混淆矩阵，并可视化混淆矩阵 .... 4.K-近邻分类模型的使用。 .....

1. 数据集的获取。 使用SCIKIT-LEARN自带的数据读取函数load_wine()，获取原始葡萄酒数据集。 2. 获取数据集内，样本数目、类别数目，各类样本数目 3. 样本集基本信息获取： (1)获取并输出该数据集的类别信息(含：类别数目，类别名称)； (2)获取数据集的特征数目、特征名称；样本数目、各类别样本数目。 4.样本集的描述统计,获取并输出显示样本集内每个特征的描述性统计指标 包括：均值、标准差、最小值、最大值、第1四分位、第2四分位、第3四分位。 5. 认识每一种特征的分布情况 (1)估计每个特征分布的斜度 (2)以单变量直方图形式可视化样本集关于每个特征取值的分布情况 (3)以单变量密度曲线方式可视化每个特征的分布 6. 了解任意一对特征之间的线性相关程度: (1)估计任意一对特征之间的相关系数，得到相关系数矩阵，并进行可视化； (2)绘制散点矩阵，借助散点矩阵，理解两特征之间的线性相关性 7. 基于箱式图的各特征取值分布的可视化，理解各特征关于不同类别样本的类鉴别特性：针对每个特征，基于原始样本集及其类别信息，在相同的图形窗口，绘制箱型图

1.数据集的获取。 使用SCIKIT-LEARN的自带的鸢尾花数据集，获取该数据集150个样本的后两个特征及相应类别标签。 2.数据集的最小包围盒的获取，以及数据集的划分。 (1)获取原始二维空间中150个样本的最小包围矩形[x1_min, x1_max]*[x2_min,x2_max],并记录有关参数值。 (2)将数据集按照类别标签分层随机打乱，基于hold-out法，构建训练集(80%)与测试集(20%) 3. 模型的学习。 利用训练集，学习两种复杂程度不同的CART分类树，可视化两个分类树的学习结果。 4. 基于测试集的分类树的评价。 (1)结合测试集各样本的类别预测结果及真实类别答案，生成混淆矩阵，并可视化混淆矩阵 (2)基于混淆矩阵，估计每个类别的查准率、查全率、F1值，以及宏查准率、宏查全率、宏F1值；估计总体预测正确率. 5. 分类树的使用。 (1)在原始二维空间的矩形区域[x1_min-1, x1_max+1]*[x2_min-1,x2_max+1]内，分别在水平、垂直方向以0.02为间隔，细分生成离散格子点。 (2)分别以每个格子点作为一个待决策样本，对其分类

1. 原始数据集的获取。 使用SCIKIT-LEARN的自带的鸢尾花数据集，获取原始鸢尾花数据集。 2.模型的评价方式之一--基于oob_score的模型性能评价 以整个鸢尾花数据集为训练集，分别考察： (1) 决策树数目=10,100,500三种情况下，随机森林的分类性能，性能评价采用： RandomForestClassifier模型的属性“oob_score” (2) 决策树数目=10,100,500三种情况下，bagging模型的分类性能，性能评价采用： BaggingClassifier模型的属性“oob_score” 3. 模型评价方式之二--基于交叉验证的集成模型性能评价 将原始数据集按照类别分层随机打乱，分成K=5等分. (1) 采用K-折交叉验证平均预测错误率(及标准差)为评价指标，分别考察决策树数目=10,100,500三种情况下，随机森林模型的分类性能。 (2) 采用K-折交叉验证平均预测错误率(及标准差)为评价指标，分别考察决策树数目=10,100,500三种情况下，bagging模型的分类性能。