先搞懂基础准备:PyTorch + CUDA(让训练更快)
MLP 训练通常用PyTorch 框架,如果电脑有 N 卡(NVIDIA 显卡),可以装CUDA让显卡帮着加速计算。
- 安装:先装对应版本的 CUDA,再装 PyTorch(官网会给匹配的安装命令)。
- 检查 CUDA:装完后在 Python 里输入
import torch; print(torch.cuda.is_available()),输出True就是能用显卡了。 - 查显卡信息:Windows 的 CMD 里输入
nvidia-smi,就能看到显卡型号、CUDA 版本这些。
MLP 训练的核心流程(对应笔记里的 “简单神经网络流程”)
假设我们要训练一个 MLP 做 “分类 / 回归” 任务,步骤是这样的:
1. 数据预处理
得把数据变成模型能认的格式:
- 归一化:比如把数据缩到 0~1 之间(避免数值太大干扰训练);
- 转张量:用 PyTorch 的
torch.tensor()把数据(比如 Excel 里的表格)转成 “张量”(相当于 PyTorch 里的数组)。
2. 定义 MLP 模型
MLP 是 “多层感知机”,就是一堆 “全连接层” 堆起来。在 PyTorch 里这么写:
- 继承
nn.Module:所有模型都得是这个类的 “子类”; - 定义层:比如
self.layer1 = nn.Linear(输入特征数, 隐藏层神经元数)(全连接层); - 前向传播:定义数据怎么从输入层→隐藏层→输出层,比如
x = torch.relu(self.layer1(x))(relu 是激活函数,让模型能学非线性关系)。
3. 选 “损失函数” 和 “优化器”
- 损失函数:衡量 “模型预测值” 和 “真实值” 的差距(比如分类用
CrossEntropyLoss,回归用MSELoss); - 优化器:负责 “调整模型参数” 来减小损失(常用
Adam,直接调参数就行)。
4. 训练流程(核心!)
就是 “喂数据→算损失→调参数” 循环:
- 把数据喂给模型,得到预测结果;
- 用损失函数算 “预测值” 和 “真实值” 的损失;
- 优化器 “反向传播”:从损失往回算每个参数的 “梯度”(相当于 “参数怎么改能减小损失”);
- 优化器更新参数:根据梯度调整模型里的权重、偏置这些参数;
- 重复上面步骤,直到损失足够小。
5. 可视化 loss 过程
训练时记录每一轮的损失,用 Matplotlib 画个折线图,能直观看到 “损失是不是越来越小”(如果损失不下降,说明训练有问题)。
举个极简的例子(比如用 MLP 做数字识别):
import torch import torch.nn as nn import torch.optim as optim # 1. 假数据(比如10个样本,每个样本有5个特征,标签是0/1) data = torch.randn(10, 5) # 10个样本,每个5个特征 labels = torch.randint(0, 2, (10,)) # 10个标签(0或1) # 2. 定义MLP模型 class MLP(nn.Module): def __init__(self): super().__init__() self.layer1 = nn.Linear(5, 10) # 输入5特征→隐藏层10神经元 self.layer2 = nn.Linear(10, 2) # 隐藏层10→输出2类(对应0/1) def forward(self, x): x = torch.relu(self.layer1(x)) # 隐藏层加激活 return self.layer2(x) model = MLP() # 3. 损失函数+优化器 loss_fn = nn.CrossEntropyLoss() # 分类任务用的损失 optimizer = optim.Adam(model.parameters(), lr=0.001) # Adam优化器 # 4. 训练(比如训5轮) loss_history = [] # 记录损失 for epoch in range(5): # 喂数据算预测 pred = model(data) # 算损失 loss = loss_fn(pred, labels) # 反向传播+更新参数 optimizer.zero_grad() # 清空之前的梯度 loss.backward() # 算梯度 optimizer.step() # 更新参数 # 记录损失 loss_history.append(loss.item()) print(f"第{epoch+1}轮,损失:{loss.item():.4f}") # 5. 画损失曲线 import matplotlib.pyplot as plt plt.plot(loss_history) plt.xlabel("轮数") plt.ylabel("损失") plt.show()@浙大疏锦行