背景
乳腺癌数据集，569个样本，30个特征，2个类别（良性/恶性）
步骤
- 加载数据集
- 拆分训练集、测试集
- 数据预处理（标准化）
- 选择模型
- 模型训练（拟合）
- 测试模型效果
- 评估模型
分析方法
对数据集使用 7 种分类方法进行分析
- K 近邻（K-NN）
- 决策树
- 支持向量机（SVM）
- 逻辑回归
- 随机森林
- 朴素贝叶斯
- 多层感知机（MLP）
模型分析结果
--- 正在训练 K近邻 (K-NN) 模型 ---
K近邻 (K-NN) 模型的准确率: 0.9591
K近邻 (K-NN) 模型的分类报告:precision recall f1-score supportmalignant 0.95 0.94 0.94 63benign 0.96 0.97 0.97 108accuracy 0.96 171macro avg 0.96 0.95 0.96 171
weighted avg 0.96 0.96 0.96 171--- 正在训练 决策树 模型 ---
决策树 模型的准确率: 0.9415
决策树 模型的分类报告:precision recall f1-score supportmalignant 0.90 0.95 0.92 63benign 0.97 0.94 0.95 108accuracy 0.94 171macro avg 0.93 0.94 0.94 171
weighted avg 0.94 0.94 0.94 171--- 正在训练 支持向量机 (SVM) 模型 ---
支持向量机 (SVM) 模型的准确率: 0.9766
支持向量机 (SVM) 模型的分类报告:precision recall f1-score supportmalignant 0.97 0.97 0.97 63benign 0.98 0.98 0.98 108accuracy 0.98 171macro avg 0.97 0.97 0.97 171
weighted avg 0.98 0.98 0.98 171--- 正在训练 逻辑回归 模型 ---
逻辑回归 模型的准确率: 0.9825
逻辑回归 模型的分类报告:precision recall f1-score supportmalignant 0.97 0.98 0.98 63benign 0.99 0.98 0.99 108accuracy 0.98 171macro avg 0.98 0.98 0.98 171
weighted avg 0.98 0.98 0.98 171--- 正在训练 随机森林 模型 ---
随机森林 模型的准确率: 0.9708
随机森林 模型的分类报告:precision recall f1-score supportmalignant 0.98 0.94 0.96 63benign 0.96 0.99 0.98 108accuracy 0.97 171macro avg 0.97 0.96 0.97 171
weighted avg 0.97 0.97 0.97 171--- 正在训练 朴素贝叶斯 模型 ---
朴素贝叶斯 模型的准确率: 0.9357
朴素贝叶斯 模型的分类报告:precision recall f1-score supportmalignant 0.92 0.90 0.91 63benign 0.94 0.95 0.95 108accuracy 0.94 171macro avg 0.93 0.93 0.93 171
weighted avg 0.94 0.94 0.94 171--- 正在训练 多层感知器 (MLP) 模型 ---
多层感知器 (MLP) 模型的准确率: 0.9825
多层感知器 (MLP) 模型的分类报告:precision recall f1-score supportmalignant 0.98 0.97 0.98 63benign 0.98 0.99 0.99 108accuracy 0.98 171macro avg 0.98 0.98 0.98 171
weighted avg 0.98 0.98 0.98 171
代码
from sklearn.datasets import load_breast_cancerfrom sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.neighbors import KNeighborsClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.svm import SVC
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier
from sklearn.naive_bayes import GaussianNB
from sklearn.neural_network import MLPClassifierfrom sklearn.metrics import accuracy_score, classification_report, roc_curve, aucimport matplotlib.pyplot as plt
import numpy as np# 设置 Matplotlib 字体以正确显示中文
plt.rcParams['font.sans-serif'] = ['SimHei', 'WenQuanYi Zen Hei', 'STHeiti', 'Arial Unicode MS']
plt.rcParams['axes.unicode_minus'] = False def perform_breast_cancer_analysis():"""使用 scikit-learn 对乳腺癌数据集进行全面的分析。该函数包含数据加载、预处理、模型训练、评估和 ROC/AUC 可视化。"""print("--- 正在加载乳腺癌数据集 ---")# 加载乳腺癌数据集cancer = load_breast_cancer()# 获取数据特征和目标标签X = cancer.datay = cancer.targettarget_names = cancer.target_namesprint("\n--- 数据集概览 ---")print(f"数据形状: {X.shape}")print(f"目标名称: {target_names}")# 将数据集划分为训练集和测试集X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)print("\n--- 数据划分结果 ---")print(f"训练集形状: {X_train.shape}")print(f"测试集形状: {X_test.shape}")# 数据标准化print("\n--- 正在对数据进行标准化处理 ---")scaler = StandardScaler()X_train_scaled = scaler.fit_transform(X_train)X_test_scaled = scaler.transform(X_test)# 定义并训练多个分类器模型models = {"K近邻 (K-NN)": KNeighborsClassifier(n_neighbors=5),"决策树": DecisionTreeClassifier(random_state=42),"支持向量机 (SVM)": SVC(kernel='rbf', C=1.0, random_state=42, probability=True),"逻辑回归": LogisticRegression(random_state=42, max_iter=10000),"随机森林": RandomForestClassifier(random_state=42),"朴素贝叶斯": GaussianNB(),"多层感知器 (MLP)": MLPClassifier(random_state=42, max_iter=10000)}print("\n--- 模型训练与评估 ---")for name, model in models.items():print(f"\n--- 正在训练 {name} 模型 ---")model.fit(X_train_scaled, y_train)y_pred = model.predict(X_test_scaled)accuracy = accuracy_score(y_test, y_pred)report = classification_report(y_test, y_pred, target_names=target_names)print(f"{name} 模型的准确率: {accuracy:.4f}")print(f"{name} 模型的分类报告:\n{report}")print("\n--- ROC 曲线和 AUC 对比 ---")num_models = len(models)cols = 3rows = (num_models + cols - 1) // colsfig, axes = plt.subplots(rows, cols, figsize=(18, 6 * rows))axes = axes.flatten()for i, (name, model) in enumerate(models.items()):ax = axes[i]# 获取预测概率if hasattr(model, "predict_proba"):y_score = model.predict_proba(X_test_scaled)[:, 1]else:y_score = model.decision_function(X_test_scaled)# 计算 ROC 曲线和 AUCfpr, tpr, _ = roc_curve(y_test, y_score)roc_auc = auc(fpr, tpr)# 绘制 ROC 曲线并填充ax.plot(fpr, tpr, label=f'AUC = {roc_auc:.2f}', alpha=0.7)ax.fill_between(fpr, tpr, alpha=0.1)# 绘制对角线 (随机猜测)ax.plot([0, 1], [0, 1], 'k--', lw=2)# 设置图表属性ax.set_xlim([0.0, 1.0])ax.set_ylim([0.0, 1.05])ax.set_xlabel('假正率 (FPR)')ax.set_ylabel('真正率 (TPR)')ax.set_title(f'{name} - ROC 曲线')ax.legend(loc="lower right", fontsize='small')ax.grid(True)for j in range(num_models, len(axes)):axes[j].axis('off')plt.tight_layout()plt.show()if __name__ == "__main__":perform_breast_cancer_analysis()
详解—单例模式(2))
