1. 引言
SVM 给了 CPU 和 GPU 一个“统一的虚拟地址空间”，使CPU和GPU能够共享内存，但这只是一个逻辑上的假象。物理上，数据要么在系统内存（RAM）里，要么在显存（VRAM）里。迁移策略就是那个在幕后负责“搬运数据”的智能管家，它决定了数据应该在什么时候、被搬到哪里去。迁移策略 Migration Policy是共享虚拟内存技术中最核心、最复杂，也是最决定性能上限的“大主题”。如果策略做得不好，SVM 不仅不会变快，反而会因为频繁的数据来回拷贝（Ping-pong 效应）导致性能崩盘。
2. 迁移策略的核心作用
2.1 解决“物理分离”与“逻辑统一”的矛盾
在SVM模型中，CPU和GPU看到的是同一个指针（虚拟地址），但硬件底层是分离的：
- RAM：容量大，但带宽低，延迟高（对GPU而言）。
- VRAM：带宽极高，延迟低，但容量有限。
迁移策略必须决定数据的物理归属地（Preferred Location）：
- 如果数据只被GPU读，策略应该把它搬到VRAM。
- 如果数据是CPU产生的参数，策略可能让它留在RAM。
- 当CPU和GPU都需要频繁修改同一块数据时，策略必须在"让GPU跑得快（放VRAM）"和"减少拷贝次数（放RAM或不动）"之间做权衡。
2.2 处理"缺页异常"的实时决策
这是迁移策略最"硬核"的工作时刻。当GPU试图访问一个当前只在RAM中存在的数据时，硬件会触发一个GPU页面异常（GPU Page Fault / Retry Fault）。
此时，迁移策略必须瞬间做出反应：
- 捕获异常：驱动层收到GPU的求救信号。
- 查找范围：在
svm_range（内存范围）的数据结构中查找这块地址。 - 决策（核心策略）：
- 迁移到VRAM：如果判断GPU接下来会密集计算这块数据，策略会触发DMA引擎，把数据从RAM拷贝到VRAM。
- 原地访问(Access In Place, AIP)：如果数据量很大或者只是偶尔访问，策略可能选择不迁移，而是直接修改GPU的页表，让GPU直接去读系统内存。
- 更新页表：重新映射物理地址，让GPU继续运行。
决策失误的后果：太激进（动不动就搬）会导致总线带宽被占满；太保守（一直让GPU读内存）会导致计算单元空转等待数据。
2.3 维护数据一致性(Coherency)
SVM最大的痛点是一致性。假设数据在VRAM里，GPU修改了它，此时CPU如果去读RAM里的旧副本，就会出错。
迁移策略在这里扮演"仲裁者"的角色：
- 监听机制：SVM注册了
mmu_interval_notifier，一旦CPU修改了内存，内核会通知SVM子系统。 - 失效处理(Invalidate)：策略必须决定是让GPU的副本失效（强制GPU下次重新抓取），还是立即把CPU的修改同步给GPU。
- 写保护：有些策略会暂时把页面标记为"只读"，一旦有人写，就触发异常，强制同步数据。
避免"抖动"(Thrashing)
这是迁移策略中最需要避免的灾难场景：
- 场景：CPU改一下数据 -> GPU改一下数据 -> CPU再改一下…
- 后果：数据在RAM和VRAM之间疯狂来回拷贝，系统速度比纯软件模拟还慢。
高级策略的应对方法：
- 预取(Prefetch)：提前把数据搬到GPU，或在后台悄悄搬运。
- 粒度控制：按"页"或"范围"迁移，而非单个字节。
- 位置提示(Location Hints)：程序员或编译器给策略提示，帮助策略少走弯路。
3. 迁移策略的性能影响
以下表格对比了不同策略对系统性能的影响：
| 维度 | 无/简单迁移策略 | 高级迁移策略(SVM的核心) |
|---|---|---|
| 数据位置 | 固定在某处，或盲目拷贝 | 动态感知，根据访问热度动态调整 |
| 性能表现 | 容易出现总线拥堵，GPU等待时间长 | 最大化利用VRAM带宽，隐藏传输延迟 |
| 编程体验 | 程序员需要手动管理内存 | 程序员像写单线程代码一样自然 |
| 核心机制 | 简单的memcpy | 缺页异常处理 + MMU Notifier + DMA引擎调度 |
4. 结论
迁移策略是SVM的大脑。它让SVM从一个简单的"内存共享工具"变成了一个能够感知应用行为、自动优化数据布局的智能系统。在AMD ROCm或NVIDIA CUDA的文档中，关于Managed Memory和Page Faulting的讨论总是围绕着策略和性能调优展开，正是因为迁移策略直接决定了SVM系统的性能上限。理解并优化迁移策略，是充分发挥SVM潜力的关键。
🔗 导航
- 07 - SVM内存迁移机制
- 12 - 内存预取prefetch与位置偏好preferred
- 13 - VRAM驱逐与恢复
- 返回目录: AMD ROCm-SVM技术的实现与应用深度分析目录
