news 2026/4/16 1:42:05

DAY54 CBAM注意力

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
DAY54 CBAM注意力

1. 通道注意力模块(Channel Attention Module)复习

通道注意力解决的是“看什么” (What) 的问题,即在众多的特征通道中,哪些通道包含更有用的信息。

  • 核心逻辑

    • 双重池化:同时使用全局平均池化 (AvgPool)全局最大池化 (MaxPool)。平均池化保留全局背景,最大池化捕捉最显著的特征(如强边缘、高亮处)。

    • 共享 MLP:将池化后的向量送入一个共享的全连接层(通常包含降维和升维,以减少参数量),学习通道间的依赖关系。

    • 权重生成:将两个池化的结果相加,通过Sigmoid激活函数生成 0 到 1 之间的权重,最后乘回原始特征图,实现对重要通道的加强和无效通道的抑制。

2. 空间注意力模块(Spatial Attention Module)

空间注意力解决的是“在哪里” (Where) 的问题,即在图像的特征图中,哪些位置(像素点)是关键区域。

  • 核心逻辑

    • 维度压缩:沿着通道轴进行平均池化和最大池化,把 C 个通道压缩成 2 个通道(一张均值图和一张最大值图)。

    • 特征融合:将这两张图拼接(Concat),然后使用一个较大的卷积核(如)进行卷积。大卷积核能提供更大的感受野,帮助模型理解物体的位置关系。

    • 权重生成:卷积输出经过Sigmoid得到空间权重图,覆盖在特征图上,让模型“盯住”重点区域(如猫的头部),忽略背景区域。

3. CBAM 的定义(Convolutional Block Attention Module)

CBAM 是一种轻量级、即插即用的卷积神经网络注意力模块。

  • 定义:它将“通道注意力”和“空间注意力”组合在一起。通过串行的方式(先计算通道注意力,再在结果上计算空间注意力),对特征进行双重强化。

  • 三大特点

    1. 双重维度:比传统的 SE 模块(仅通道注意力)多了一个空间维度,提升了模型定位目标的能力。

    2. 即插即用:它可以直接插入到任何现有的卷积网络(如 ResNet, MobileNet, YOLO 等)的卷积层之间,无需改变原网络的主体结构。

    3. 高效性:它增加的参数量极少,但在图像分类、目标检测等任务中通常能带来明显的性能提升。

一句话总结:

CBAM 通过通道注意力告诉模型“什么特征重要”,再通过空间注意力告诉模型“哪里重要”,二者结合让特征表达更加精准。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/16 13:00:29

精密星历背后的数学魔法:从SP3文件到厘米级定位的奥秘

精密星历背后的数学魔法:从SP3文件到厘米级定位的奥秘 在当今高精度定位技术领域,精密星历是实现厘米级定位的关键要素。与广播星历相比,精密星历通过更复杂的数学模型和更精确的观测数据,将定位精度提升了一个数量级。本文将深入…

作者头像 李华
网站建设 2026/4/4 4:10:07

javaSE,对于异常层面的认识

我们知道,代码是运行在jvm里面的。但是要让接口能顺利运行下去,不会因为报错,而中断,或者报错了有给前端返回对应的问题。 我们来认识一下,java的异常体系,以及如何处理异常 1.java中有哪些类型的异常 2…

作者头像 李华
网站建设 2026/4/16 14:03:15

Llama3-8B健身计划定制:运动建议系统部署案例

Llama3-8B健身计划定制:运动建议系统部署案例 1. 引言:为什么用Llama3-8B做个性化健身助手? 你有没有这样的经历:想开始健身,但不知道从哪练起?网上搜了一堆计划,结果要么太难坚持不了&#x…

作者头像 李华
网站建设 2026/4/15 21:08:26

为什么推荐LoRA微调?Qwen2.5-7B实战告诉你答案

为什么推荐LoRA微调?Qwen2.5-7B实战告诉你答案 1. 引言:从“我是谁”说起 你有没有试过问一个大模型:“你是谁开发的?” 如果它回答:“我是阿里云开发的……”,那说明它是原版 Qwen2.5-7B-Instruct。 但如…

作者头像 李华
网站建设 2026/4/16 13:08:17

fft npainting lama日志级别调整:debug模式开启教程

fft npainting lama日志级别调整:debug模式开启教程 1. 调试模式的重要性与使用场景 在进行图像修复系统的二次开发或排查问题时,经常会遇到模型加载失败、推理卡顿、输出异常等情况。默认情况下,系统只输出关键状态信息,比如“…

作者头像 李华