make_regression 生成一个随机的回归问题

make_regression是sklearn.datasets模块中的一个函数，用于生成回归问题的样本数据。以下是关于make_regression函数的详细介绍：

函数语法

sklearn.datasets.make_regression(n_samples=100, n_features=100, n_informative=10, n_targets=1, bias=0.0, effective_rank=None, tail_strength=0.5, noise=0.0, shuffle=True, coef=False, random_state=None)

参数说明

n_samples：整数，可选（默认为100）。表示生成的样本数量。n_features：整数，可选（默认为100）。表示每个样本的特征数量，即自变量的个数。n_informative：整数，可选（默认为10）。表示有信息的特征数量，这些特征将被用来构造线性模型以生成输出。换句话说，这些特征是对预测目标变量有用的。n_targets：整数，可选（默认为1）。表示回归目标的数量，即对应于一个样本输出向量y的维度。在大多数情况下，这是一个标量值，但也可以设置为多个目标。bias：浮点数，可选（默认为0.0）。表示偏置项或截距。effective_rank：整数或None，可选（默认为None）。如果非None，则数据是通过这种方式生成的：先生成一个正态分布的随机矩阵，然后用其奇异值分解的前effective_rank个奇异向量和奇异值来构造数据矩阵。如果为None，则使用完整的奇异值分解来生成数据。tail_strength：浮点数，可选（默认为0.5）。该参数影响了特征之间的相关性衰减速度。较大的tail_strength值意味着特征之间将具有更强的相关性。noise：浮点数，可选（默认为0.0）。表示添加到输出中的高斯噪声的标准差。噪声是添加到由线性模型生成的输出上的。shuffle：布尔值，可选（默认为True）。如果为True，则打乱样本和特征的顺序。如果为False，则按原始顺序返回样本和特征。coef：布尔值，可选（默认为False）。如果为True，则返回数据的系数（即线性模型的权重）。这些系数可用于了解哪些特征对目标变量的影响更大。random_state：整数、RandomState实例或None（默认为None）。控制随机数生成器的种子或RandomState实例。如果为整数，则它指定了随机数生成器的种子；如果为RandomState实例，则它本身就是随机数生成器；如果为None，则随机数生成器是np.random。设置随机状态可以确保每次运行代码时生成相同的数据集，便于结果复现和比较。

返回值

函数返回以下值：

X：形状为(n_samples, n_features)的数组，表示生成的特征数据。y：形状为(n_samples,)或(n_samples, n_targets)的数组，表示生成的目标变量（回归值）。如果设置了多个目标（n_targets > 1），则y的形状将为(n_samples, n_targets)。coef（仅在coef=True时返回）：形状为(n_informative,)或(n_targets, n_informative)的数组，表示用于生成数据的线性模型的系数。这些系数可以帮助理解哪些特征对目标变量的预测最重要。如果设置了多个目标（n_targets > 1），则coef的形状将为(n_targets, n_informative)，其中每一行对应于一个目标的系数向量。

train_test_split 划分训练集和测试集

train_test_split 是 scikit-learn 库中的一个函数，用于将数据集随机划分为训练集和测试集。这是机器学习中常用的一个步骤，目的是确保模型不仅在训练数据上表现良好，还能在未见过的数据（即测试数据）上有良好的表现。

函数的基本用法如下：

from sklearn.model_selection import train_test_split

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

X 和 y 分别是特征和标签的数据。test_size 参数指定了测试集的大小，这里是总数据的20%。random_state 参数是一个随机种子，用于确保每次划分数据时都能得到相同的结果。这在需要重复实验或比较不同模型时非常有用。

函数返回四个数组：X_train（训练集的特征）、X_test（测试集的特征）、y_train（训练集的标签）和y_test（测试集的标签）。

classification_report 分类报告

classification_report 是 scikit-learn 库中的一个函数，它用于显示主要分类指标的文本报告，包括每个类的精确度（precision）、召回率（recall）、F1 分数（F1-score）以及支持数（即每个类别的样本数）。这个函数对于评估分类模型的性能非常有用，因为它提供了一个全面的、易于理解的性能指标概览。

下面是 classification_report 函数的基本用法：

from sklearn.metrics import classification_report, accuracy_score

y_true = [0, 0, 1, 2, 2, 2]

y_pred = [0, 0, 0, 2, 2, 1]

target_names = ['class 0', 'class 1', 'class 2']

print(classification_report(y_true, y_pred, target_names=target_names))

输出将类似于以下内容：

precision recall f1-score support

class 0 0.67 1.00 0.80 2

class 1 0.00 0.00 0.00 1

class 2 1.00 0.67 0.80 3

accuracy 0.67 6

macro avg 0.56 0.56 0.53 6

weighted avg 0.72 0.67 0.67 6

在这个报告中：

precision（精确度）表示预测为正且实际为正的样本占所有预测为正的样本的比例。recall（召回率）表示预测为正且实际为正的样本占所有实际为正的样本的比例。f1-score 是精确度和召回率的调和平均数，用于综合评价模型的性能。support 表示每个类别的样本数。

classification_report 还提供了 macro avg 和 weighted avg，分别表示所有类别的指标的平均值（未加权的平均值）和根据每个类别的支持数加权的平均值。这些平均值有助于从整体上评估模型的性能。

计算公式解析

为了解释 precision、recall 和 F1-score 是如何计算的，我们先要理解几个基本概念：

真正例（True Positives, TP）：实际为正例且被预测为正例的样本数。假正例（False Positives, FP）：实际为负例但被预测为正例的样本数。真负例（True Negatives, TN）：实际为负例且被预测为负例的样本数（在分类报告中通常不直接使用）。假负例（False Negatives, FN）：实际为正例但被预测为负例的样本数。

现在，我们来看具体的计算方式：

1）精确度（Precision）

精确度是指预测为正例的样本中，真正为正例的比例。对于每个类别，其计算公式为：

[ \text{Precision} = \frac{TP}{TP + FP} ]

2）召回率（Recall）

召回率是指所有真正的正例中，被正确预测出来的比例。对于每个类别，其计算公式为：

[ \text{Recall} = \frac{TP}{TP + FN} ]

3）F1 分数（F1-score）

F1 分数是精确度和召回率的调和平均数，用于提供一个单一的指标来衡量分类器的性能。其计算公式为：

[ F1 = 2 \times \frac{\text{Precision} \times \text{Recall}}{\text{Precision} + \text{Recall}} ]

参考

https://www.cnblogs.com/Zshirly/p/15871498.htmlhttp://openml.org