news 2026/4/16 17:01:33

刘二大人PyTorch深度学习实践第二讲笔记

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
刘二大人PyTorch深度学习实践第二讲笔记

个新坑,系统学一遍深度学习好做毕设,能到河工大挺激动的,赶紧给刘二大人投自荐简历,但是已读不回,还是自己太菜了........不过已经到河工大了挺好的,梦校

第二讲

线性模型

image-20251125141224993

image-20251125141255872

可能x(输入)到y(答案)是一个线性模型,但是w或者其他的权重值不确定,所以机器随机选取权重数值,看看哪个公式得到的预期答案和真实答案偏差较小,就是训练的最优模型

评价方法MSE:(假设x到y的映射就是简单的y=x*w)

image-20251125141827375

(模型预期值-真实值)的平方再平均,就是MSE(均方误差)

还是假设y=w*x,找出最佳权重:

import numpy as np

import matplotlib.pyplot as plt

x_data=[1.0,2.0,3.0]

y_data=[3.0,6.0,9.0]

def forward(x):

return x*w

def loss(x,y):

y_pred=forward(x)

return (y_pred-y)*(y_pred-y)

w_list=[]

mse_list=[]

for w in np.arange(0.0,4.1,0.1):

print("w=",w)

l_sum=0

for x_val,y_val in zip(x_data,y_data):

y_pred_val=forward(x_val)

loss_val=loss(x_val,y_val)

l_sum+=loss_val

print('\t',x_val,y_val,y_pred_val,loss_val)

print('MSE = ',l_sum/3)

w_list.append(w)

mse_list.append(l_sum/3)

plt.plot(w_list,mse_list)

plt.ylabel('Loss')

plt.xlabel('w')

plt.show()

结果:

Figure_1

再试一个y=w*x+b的

# import numpy as np

# import matplotlib.pyplot as plt

#

# x_data=[1.0,2.0,3.0]

# y_data=[3.0,6.0,9.0]

#

#

# def forward(x):

# return x*w

#

# def loss(x,y):

# y_pred=forward(x)

# return (y_pred-y)*(y_pred-y)

#

# w_list=[]

# mse_list=[]

#

# for w in np.arange(0.0,4.1,0.1):

# print("w=",w)

# l_sum=0

# for x_val,y_val in zip(x_data,y_data):

# y_pred_val=forward(x_val)

# loss_val=loss(x_val,y_val)

# l_sum+=loss_val

# print('\t',x_val,y_val,y_pred_val,loss_val)

# print('MSE = ',l_sum/3)

# w_list.append(w)

# mse_list.append(l_sum/3)

# plt.plot(w_list,mse_list)

# plt.ylabel('Loss')

# plt.xlabel('w')

# plt.show()

import numpy as np

import matplotlib.pyplot as plt

from mpl_toolkits.mplot3d import Axes3D

x_data=[1.0,2.0,3.0]

y_data=[4.0,7.0,10.0]

def forward(x):

return x*w+b

def loss(x,y):

y_pred=forward(x)

return (y_pred-y)*(y_pred-y)

w_list=[]

b_list=[]

mse_list=[]

for w in np.arange(0.0,4.1,0.1):

for b in np.arange(0.0,4.1,0.1):

l_sum=0

for x_val,y_val in zip(x_data,y_data):

y_pred_val=forward(x_val)

loss_val=loss(x_val,y_val)

l_sum+=loss_val

# print('\t',x_val,y_val,y_pred_val,loss_val)

# print('MSE = ',l_sum/3)

w_list.append(w)

b_list.append(b)

mse_list.append(l_sum/3)

# 转换为numpy数组并重塑为网格格式

w_array = np.array(w_list)

b_array = np.array(b_list)

mse_array = np.array(mse_list)

# 创建网格数据

w_unique = np.unique(w_array)

b_unique = np.unique(b_array)

W, B = np.meshgrid(w_unique, b_unique)

MSE = mse_array.reshape(len(b_unique), len(w_unique))

# 绘图

fig = plt.figure(figsize=(10, 8))

ax = fig.add_subplot(111, projection='3d')

# 使用plot_surface绘制曲面

surf = ax.plot_surface(W, B, MSE, cmap='viridis', alpha=0.8)

ax.set_xlabel('权重 w')

ax.set_ylabel('偏置 b')

ax.set_zlabel('MSE 损失')

ax.set_title('损失函数曲面: y = w*x + b')

# 添加颜色条

fig.colorbar(surf, ax=ax, shrink=0.5, aspect=5)

# 找到最小MSE的点

min_idx = np.argmin(mse_array)

best_w = w_array[min_idx]

best_b = b_array[min_idx]

best_mse = mse_array[min_idx]

# 标记最优点

ax.scatter([best_w], [best_b], [best_mse], color='red', s=100, label=f'最优: w={best_w:.1f}, b={best_b:.1f}')

ax.legend()

plt.show()

print(f"最优参数: w = {best_w:.1f}, b = {best_b:.1f}")

print(f"最小MSE: {best_mse:.4f}")

Figure_11251

坐标网格: W 和 B

值网格: MSE

最后的坐标网络,W和B也各自是二维数组,这样才能和MSE组成一个3维图

这段有点难理解,ai写了下

# 转换为numpy数组并重塑为网格格式

w_array = np.array(w_list)

b_array = np.array(b_list)

mse_array = np.array(mse_list)

# 创建网格数据

w_unique = np.unique(w_array)

b_unique = np.unique(b_array)

W, B = np.meshgrid(w_unique, b_unique)

MSE = mse_array.reshape(len(b_unique), len(w_unique))

最后几段分步详解

我们来一步步拆解每一行代码:

1. w_unique = np.unique(w_array)

w_array

这是一个一维的 NumPy 数组,里面存储了一系列的权重(weight)值。这些值可能有重复。

例如:w_array = [1, 2, 2, 3, 3, 3]

np.unique(): 这是 NumPy 的一个函数,它会返回输入数组中排序后的唯一值(即去重后的值)。

结果 w_unique

它将是

w_array

中所有不重复的权重值,并按从小到大排列。

例如:w_unique = [1, 2, 3]

这一步的目的是:找出所有不同的权重值,作为我们后续网格的 X 轴坐标。

2. b_unique = np.unique(b_array)

b_array

这是一个一维的 NumPy 数组,里面存储了一系列的偏置(bias)值。这些值也可能有重复。

例如:b_array = [4, 4, 5, 5, 6]

结果 b_unique

它将是

b_array

中所有不重复的偏置值,并按从小到大排列。

例如:b_unique = [4, 5, 6]

这一步的目的是:找出所有不同的偏置值,作为我们后续网格的 Y 轴坐标。

3. W, B = np.meshgrid(w_unique, b_unique)

np.meshgrid(): 这是最关键的一步。它接收两个一维数组,并返回两个二维数组。这两个二维数组共同构成了一个网格的坐标。

它会以第一个输入数组(w_unique)为列,以第二个输入数组(b_unique)为行,创建一个二维坐标网格。

结果 W 和 B:

W 是一个二维数组,它的每一行都是 w_unique。

B 是一个二维数组,它的每一列都是 b_unique。

举例说明:

输入: w_unique = [1, 2, 3], b_unique = [4, 5, 6]

输出:

W = [[1 2 3]

[1 2 3]

[1 2 3]]

B = [[4 4 4]

[5 5 5]

[6 6 6]]

这样,W 和 B 就共同定义了一个 3x3 的网格,每个网格点的坐标 (W[i][j], B[i][j]) 都对应一个 (权重, 偏置) 的组合。

这一步的目的是:创建一个完整的二维坐标网格,覆盖所有可能的(权重, 偏置)组合。

4. MSE = mse_array.reshape(len(b_unique), len(w_unique))

mse_array: 这是一个一维的 NumPy 数组,里面存储了与w_array和b_array中每一组(w, b)相对应的均方误差(Mean Squared Error)值。

它的长度必须与w_array和b_array相同。

例如,如果 w_array 和 b_array 都有 6 个元素,mse_array 也必须有 6 个元素。

len(b_unique) 和 len(w_unique): 它们分别是网格的行数和列数。在我们的例子中,行数是 3,列数是 3。

reshape(...): 这个函数将一维的mse_array转换成一个二维数组。

非常重要:reshape 函数默认是 ** 按行优先(C-style)** 的顺序重新排列元素的。这意味着,mse_array 中的元素必须是按照与 np.meshgrid 生成网格时相同的顺序排列的。

也就是说,mse_array 的元素顺序应该是先固定b,再遍历w。例如:[mse(w=1,b=4), mse(w=2,b=4), mse(w=3,b=4), mse(w=1,b=5), ...]

结果 MSE: 一个二维的 MSE 数组,它的形状是 (网格行数, 网格列数),也就是 (len(b_unique), len(w_unique))。

这个二维数组MSE中的每一个元素MSE[i][j],都对应于网格坐标(W[i][j], B[i][j])处的均方误差值。

这一步的目的是:将一维的 MSE 值数组,按照我们创建的网格形状,重新组织成一个二维的 MSE 矩阵。

总结:为什么要这么做?

假设你有一批数据点 (w, b, mse),它们可能是这样散落的:

(1, 4, 0.1)

(2, 4, 0.2)

(3, 4, 0.15)

(1, 5, 0.3)

...

通过上述四行代码,你将这些散落的数据点,整理成了一个结构化的、可以直接用于绘图的二维数据结构:

坐标网格: W 和 B

值网格: MSE

这样,你就可以使用像 matplotlib 这样的库,轻松地绘制出一张关于 w 和 b 的 MSE 热力图(imshow(MSE)),或者一个 3D 曲

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/16 14:28:58

docker运行报错启动守护进程

docker运行报错 failed to connect to the docker API at npipe:////./pipe/dockerDesktopLinuxEngine; check if the path is correct and if the daemon is running: open //./pipe/dockerDesktopLinuxEngine: The system cannot find the file specified. docker 解决办法 点…

作者头像 李华
网站建设 2026/4/16 16:09:30

7个有效方法提升YashanDB的查询响应速度

在现代数据应用中,查询响应速度直接影响系统的用户体验和业务处理效率。如何在海量数据和复杂业务场景下优化数据库查询性能,成为数据库管理和应用开发中的关键问题。YashanDB作为具备单机、分布式及共享集群多种部署模式的高性能数据库系统,…

作者头像 李华
网站建设 2026/4/15 19:12:12

蓝桥杯JAVA--启蒙之路(二)JAVA 程序基础

一前言 由于我们的重点是数据结构与算法,所以我会快速的将JAVA 基础知识过一遍,而且有了c语言的基础JAVA是很好学的。 二主要内容 本节我们将介绍Java程序的基础知识,包括: Java程序基本结构 我们先剖析一个完整的Java程序&a…

作者头像 李华
网站建设 2026/4/16 14:39:03

吃透 C 语言核心知识点:从内存存储到文件操作的实战指南

作为 C 语言学习者,想要真正掌握这门语言,不能只停留在语法表层,必须深入理解内存管理、指针操作、自定义类型等核心机制。本文结合实战代码,系统拆解 C 语言关键知识点,帮你打通从基础到进阶的学习脉络。一、数据在内…

作者头像 李华
网站建设 2026/4/14 0:48:52

图像编码成特征向量

目录 siglip-so400m-patch14-384 下载地址: 推理示例: 提取特征 测试代码: 图像编码成特征向量 siglip-so400m-patch14-384 名称:siglip-so400m-patch14-384 系列:CLIP(Contrastive Language–Image P…

作者头像 李华