news 2026/4/16 18:03:31

DAY 37 GPU训练及类的call方法

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
DAY 37 GPU训练及类的call方法

一、GPU性能的查看:看架构代际、核心数、线程数

二、GPU性能的查看:看显存、看级别、看架构代际

三、GPU训练的方法:数据和模型移动到GPU device上

模型在 GPU 上训练,主要是将模型和数据迁移到 GPU 设备上。

在 PyTorch 里,.to(device) 方法的作用是把张量或者模型转移到指定的计算设备(像 CPU 或者 GPU)上。

- 对于张量(Tensor):调用 .to(device) 之后,会返回一个在新设备上的新张量。

- 对于模型(nn.Module):调用 .to(device) 会直接对模型进行修改,让其所有参数和缓冲区都移到新设备上。

在进行计算时,所有输入张量和模型必须处于同一个设备。要是它们不在同一设备上,就会引发运行时错误。并非所有 PyTorch 对象都有 .to(device) 方法,只有继承自 torch.nn.Module 的模型以及 torch.Tensor 对象才有此方法。

RuntimeError: Tensor for argument #1 'input' is on CPU, but expected it to be on GPU

这个常见错误就是输入张量和模型处于不同的设备。

四、类的call方法:为什么定义前向传播时可以直接写作self.fc1(x)

Python 中,只要一个类定义了 __call__ 方法,这个类的实例就变成了可调用对象(可以像函数一样加括号调用)。

self.fc1(x) 能直接调用的本质是:self.fc1 指向的是一个可调用对象(通常是 PyTorch/TensorFlow 等框架的层类实例,这些类实现了 __call__ 方法),而 __call__ 是 Python 中让实例 “像函数一样被调用” 的核心魔法方法。

self.fc1 通常是 nn.Linear 类的实例,而 nn.Linear(以及所有 nn.Module 子类)都实现了 __call__ 方法,且 __call__ 会关联到层的前向传播逻辑(forward 方法)。

self.fc1(x) 能直接写的核心是:

  • fc1 是 nn.Module 子类(如nn.Linear)的实例;
  • nn.Module 实现了 __call__ 方法,使得实例可被 “函数式调用”;
  • 调用 self.fc1(x) 时,自动触发 __call__ → 调用 forward 方法,完成前向传播。

@浙大疏锦行

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/16 15:26:19

从0到1开发一个Agent(智能体)框架

文章详细介绍了如何从零开始构建名为HelloAgents的AI智能体框架,分析了现有框架的局限性,提出了轻量级教学友好、基于标准API、渐进式学习路径和统一工具抽象四大设计理念。通过核心框架层、Agent实现层和工具系统层的架构设计,配合具体代码实…

作者头像 李华
网站建设 2026/4/16 15:26:15

智能视频生成新纪元:双帧驱动下的创意革命

在人工智能内容生成领域,一场静悄悄的革命正在上演。只需两张图片,就能解锁完整视频的魔力——这就是首尾帧生视频技术带来的颠覆性变革。今天,让我们一同探索这项让静态画面"活"起来的前沿技术。 【免费下载链接】Wan2.1-FLF2V-14…

作者头像 李华
网站建设 2026/4/16 12:24:02

企业级 AI Agent 系统落地架构设计剖析

本文详细解析了AI Agent系统的定义、构建难点、框架选型及6种架构设计模式。AI Agent系统通过大语言模型与工具的交替调用形成智能循环,构建难点在于确保LLM上下文准确性。文章从工作流与AI Agent、可预测性、门槛上限等多维度分析了框架选型,并介绍了路…

作者头像 李华
网站建设 2026/4/16 12:17:03

记住!“女朋友” 千万别说成 girl friend!说错秒变单身狗!

之前小编在网上看见过这样一个故事:男生给女朋友过生日,选了一个大大的生日蛋糕,并且在蛋糕上写上这样的字:happy birthday to my girl friend。结果女朋友看见气炸了,直接对男生说道:“你想分手就直说&…

作者头像 李华
网站建设 2026/4/16 9:02:08

弱电网下LCL型T型三电平并网逆变器的谐振抑制策略:采用电容电流反馈有源阻尼与电容电压前馈控制...

T型三电平有源阻尼谐振抑制,对于弱电网下LCL型T型三电平并网逆变器进行谐振抑制。 1.T型三电平并网逆变器,跟网型逆变器 2.处于弱电网下,LCL滤波器 3.采用电容电流反馈有源阻尼电容电压前馈控制 4.中点电位平衡控制 5.提供参考文献 提供控制框…

作者头像 李华