sphinx.addnodesdocument)}( rawsourcechildren]( translations LanguagesNode)}(hhh](h pending_xref)}(hhh]docutils.nodesTextEnglish}parenthsba attributes}(ids]classes]names]dupnames]backrefs] refdomainstdreftypedoc reftarget/mm/hmmmodnameN classnameN refexplicitutagnamehhh ubh)}(hhh]hChinese (Traditional)}hh2sbah}(h]h ]h"]h$]h&] refdomainh)reftypeh+ reftarget/translations/zh_TW/mm/hmmmodnameN classnameN refexplicituh1hhh ubh)}(hhh]hItalian}hhFsbah}(h]h ]h"]h$]h&] refdomainh)reftypeh+ reftarget/translations/it_IT/mm/hmmmodnameN classnameN refexplicituh1hhh ubh)}(hhh]hJapanese}hhZsbah}(h]h ]h"]h$]h&] refdomainh)reftypeh+ reftarget/translations/ja_JP/mm/hmmmodnameN classnameN refexplicituh1hhh ubh)}(hhh]hKorean}hhnsbah}(h]h ]h"]h$]h&] refdomainh)reftypeh+ reftarget/translations/ko_KR/mm/hmmmodnameN classnameN refexplicituh1hhh ubh)}(hhh]hSpanish}hhsbah}(h]h ]h"]h$]h&] refdomainh)reftypeh+ reftarget/translations/sp_SP/mm/hmmmodnameN classnameN refexplicituh1hhh ubeh}(h]h ]h"]h$]h&]current_languageChinese (Simplified)uh1h hh _documenthsourceNlineNubhnote)}(hX{此文件的目的是为让中文读者更容易阅读和理解，而不是作为一个分支。 因此， 如果您对此文件有任何意见或更新，请先尝试更新原始英文文件。 如果您发现本文档与原始文件有任何不同或者有翻译问题，请发建议或者补丁给 该文件的译者，或者请求中文文档维护者和审阅者的帮助。h]h paragraph)}(hX{此文件的目的是为让中文读者更容易阅读和理解，而不是作为一个分支。 因此， 如果您对此文件有任何意见或更新，请先尝试更新原始英文文件。 如果您发现本文档与原始文件有任何不同或者有翻译问题，请发建议或者补丁给 该文件的译者，或者请求中文文档维护者和审阅者的帮助。h]hX{此文件的目的是为让中文读者更容易阅读和理解，而不是作为一个分支。 因此， 如果您对此文件有任何意见或更新，请先尝试更新原始英文文件。 如果您发现本文档与原始文件有任何不同或者有翻译问题，请发建议或者补丁给 该文件的译者，或者请求中文文档维护者和审阅者的帮助。}(hhhhhNhNubah}(h]h ]h"]h$]h&]uh1hh5Documentation/translations/zh_CN/disclaimer-zh_CN.rsthKhhubah}(h]h ]h"]h$]h&]uh1hhhhhhhhNubh field_list)}(hhh](hfield)}(hhh](h field_name)}(hOriginalh]hOriginal}(hhhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhG/var/lib/git/docbuild/linux/Documentation/translations/zh_CN/mm/hmm.rsthKubh field_body)}(hDocumentation/mm/hmm.rst h]h)}(hDocumentation/mm/hmm.rsth]hDocumentation/mm/hmm.rst}(hhhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhhubah}(h]h ]h"]h$]h&]uh1hhhubeh}(h]h ]h"]h$]h&]uh1hhhhKhhhhubh)}(hhh](h)}(h翻译h]h翻译}(hhhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhhhKubh)}(h-司延腾 Yanteng Si h]h)}(h,司延腾 Yanteng Si h](h司延腾 Yanteng Si <}(hjhhhNhNubh reference)}(hsiyanteng@loongson.cnh]hsiyanteng@loongson.cn}(hjhhhNhNubah}(h]h ]h"]h$]h&]refurimailto:siyanteng@loongson.cnuh1jhjubh>}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhKhj ubah}(h]h ]h"]h$]h&]uh1hhhubeh}(h]h ]h"]h$]h&]uh1hhhhKhhhhubh)}(hhh](h)}(h校译h]h校译}(hjAhhhNhNubah}(h]h ]h"]h$]h&]uh1hhj>hhhKubh)}(hhh]h}(h]h ]h"]h$]h&]uh1hhj>ubeh}(h]h ]h"]h$]h&]uh1hhhhK hhhhubeh}(h]h ]h"]h$]h&]uh1hhhhhhhhKubhsection)}(hhh](htitle)}(h异构内存管理 (HMM)h]h异构内存管理 (HMM)}(hjkhhhNhNubah}(h]h ]h"]h$]h&]uh1jihjfhhhhhK ubh)}(h提供基础设施和帮助程序以将非常规内存（设备内存，如板上 GPU 内存）集成到常规内核路径中，其 基石是此类内存的专用struct page（请参阅本文档的第 5 至 7 节）。h]h提供基础设施和帮助程序以将非常规内存（设备内存，如板上 GPU 内存）集成到常规内核路径中，其 基石是此类内存的专用struct page（请参阅本文档的第 5 至 7 节）。}(hjyhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjfhhubh)}(hXQHMM 还为 SVM（共享虚拟内存）提供了可选的帮助程序，即允许设备透明地访问与 CPU 一致的程序 地址，这意味着 CPU 上的任何有效指针也是该设备的有效指针。这对于简化高级异构计算的使用变得 必不可少，其中 GPU、DSP 或 FPGA 用于代表进程执行各种计算。h]hXQHMM 还为 SVM（共享虚拟内存）提供了可选的帮助程序，即允许设备透明地访问与 CPU 一致的程序 地址，这意味着 CPU 上的任何有效指针也是该设备的有效指针。这对于简化高级异构计算的使用变得 必不可少，其中 GPU、DSP 或 FPGA 用于代表进程执行各种计算。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjfhhubh)}(hX本文档分为以下部分：在第一部分中，我揭示了与使用特定于设备的内存分配器相关的问题。在第二 部分中，我揭示了许多平台固有的硬件限制。第三部分概述了 HMM 设计。第四部分解释了 CPU 页 表镜像的工作原理以及 HMM 在这种情况下的目的。第五部分处理内核中如何表示设备内存。最后， 最后一节介绍了一个新的迁移助手，它允许利用设备 DMA 引擎。h]hX本文档分为以下部分：在第一部分中，我揭示了与使用特定于设备的内存分配器相关的问题。在第二 部分中，我揭示了许多平台固有的硬件限制。第三部分概述了 HMM 设计。第四部分解释了 CPU 页 表镜像的工作原理以及 HMM 在这种情况下的目的。第五部分处理内核中如何表示设备内存。最后， 最后一节介绍了一个新的迁移助手，它允许利用设备 DMA 引擎。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjfhhubhtopic)}(hhh]h bullet_list)}(hhh](h list_item)}(hhh]h)}(hhh]j)}(hhh]h0使用特定于设备的内存分配器的问题}(hjhhhNhNubah}(h]id6ah ]h"]h$]h&]refidid1uh1jhjubah}(h]h ]h"]h$]h&]uh1hhjubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]hI/O 总线、设备内存特性}(hjhhhNhNubah}(h]id7ah ]h"]h$]h&]refidi-ouh1jhjubah}(h]h ]h"]h$]h&]uh1hhjubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]h共享地址空间和迁移}(hjhhhNhNubah}(h]id8ah ]h"]h$]h&]refidid2uh1jhjubah}(h]h ]h"]h$]h&]uh1hhjubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]h地址空间镜像实现和API}(hjhhhNhNubah}(h]id9ah ]h"]h$]h&]refidapiuh1jhjubah}(h]h ]h"]h$]h&]uh1hhjubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]h'利用 default_flags 和 pfn_flags_mask}(hj=hhhNhNubah}(h]id10ah ]h"]h$]h&]refiddefault-flags-pfn-flags-maskuh1jhj:ubah}(h]h ]h"]h$]h&]uh1hhj7ubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]h3从核心内核的角度表示和管理设备内存}(hj_hhhNhNubah}(h]id11ah ]h"]h$]h&]refidid3uh1jhj\ubah}(h]h ]h"]h$]h&]uh1hhjYubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]h移入和移出设备内存}(hjhhhNhNubah}(h]id12ah ]h"]h$]h&]refidid4uh1jhj~ubah}(h]h ]h"]h$]h&]uh1hhj{ubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]h独占访问存储器}(hjhhhNhNubah}(h]id13ah ]h"]h$]h&]refidid5uh1jhjubah}(h]h ]h"]h$]h&]uh1hhjubah}(h]h ]h"]h$]h&]uh1jhjubj)}(hhh]h)}(hhh]j)}(hhh]h$内存 cgroup (memcg) 和 rss 统计}(hjhhhNhNubah}(h]id14ah ]h"]h$]h&]refidcgroup-memcg-rssuh1jhjubah}(h]h ]h"]h$]h&]uh1hhjubah}(h]h ]h"]h$]h&]uh1jhjubeh}(h]h ]h"]h$]h&]uh1jhjhhhNhNubah}(h]contentsah ](contentslocaleh"]contentsah$]h&]uh1jhhhKhjfhhubje)}(hhh](jj)}(h0使用特定于设备的内存分配器的问题h]h0使用特定于设备的内存分配器的问题}(hjhhhNhNubah}(h]h ]h"]h$]h&]refidjuh1jihjhhhhhKubh)}(hX具有大量板载内存（几 GB）的设备（如 GPU）历来通过专用驱动程序特定 API 管理其内存。这会 造成设备驱动程序分配和管理的内存与常规应用程序内存（私有匿名、共享内存或常规文件支持内存） 之间的隔断。从这里开始，我将把这个方面称为分割的地址空间。我使用共享地址空间来指代相反的情况： 即，设备可以透明地使用任何应用程序内存区域。h]hX具有大量板载内存（几 GB）的设备（如 GPU）历来通过专用驱动程序特定 API 管理其内存。这会 造成设备驱动程序分配和管理的内存与常规应用程序内存（私有匿名、共享内存或常规文件支持内存） 之间的隔断。从这里开始，我将把这个方面称为分割的地址空间。我使用共享地址空间来指代相反的情况： 即，设备可以透明地使用任何应用程序内存区域。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK hjhhubh)}(h分割的地址空间的发生是因为设备只能访问通过设备特定 API 分配的内存。这意味着从设备的角度来 看，程序中的所有内存对象并不平等，这使得依赖于广泛的库的大型程序变得复杂。h]h分割的地址空间的发生是因为设备只能访问通过设备特定 API 分配的内存。这意味着从设备的角度来 看，程序中的所有内存对象并不平等，这使得依赖于广泛的库的大型程序变得复杂。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK%hjhhubh)}(hX具体来说，这意味着想要利用像 GPU 这样的设备的代码需要在通用分配的内存（malloc、mmap 私有、mmap 共享）和通过设备驱动程序 API 分配的内存之间复制对象（这仍然以 mmap 结束， 但是是设备文件）。h]hX具体来说，这意味着想要利用像 GPU 这样的设备的代码需要在通用分配的内存（malloc、mmap 私有、mmap 共享）和通过设备驱动程序 API 分配的内存之间复制对象（这仍然以 mmap 结束， 但是是设备文件）。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK(hjhhubh)}(hXL对于平面数据集（数组、网格、图像……），这并不难实现，但对于复杂数据集（列表、树……）， 很难做到正确。复制一个复杂的数据集需要重新映射其每个元素之间的所有指针关系。这很容易出错， 而且由于数据集和地址的重复，程序更难调试。h]hXL对于平面数据集（数组、网格、图像……），这并不难实现，但对于复杂数据集（列表、树……）， 很难做到正确。复制一个复杂的数据集需要重新映射其每个元素之间的所有指针关系。这很容易出错， 而且由于数据集和地址的重复，程序更难调试。}(hj-hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK,hjhhubh)}(hX"分割地址空间也意味着库不能透明地使用它们从核心程序或另一个库中获得的数据，因此每个库可能 不得不使用设备特定的内存分配器来重复其输入数据集。大型项目会因此受到影响，并因为各种内存 拷贝而浪费资源。h]hX"分割地址空间也意味着库不能透明地使用它们从核心程序或另一个库中获得的数据，因此每个库可能 不得不使用设备特定的内存分配器来重复其输入数据集。大型项目会因此受到影响，并因为各种内存 拷贝而浪费资源。}(hj;hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK0hjhhubh)}(h复制每个库的API以接受每个设备特定分配器分配的内存作为输入或输出，并不是一个可行的选择。 这将导致库入口点的组合爆炸。h]h复制每个库的API以接受每个设备特定分配器分配的内存作为输入或输出，并不是一个可行的选择。 这将导致库入口点的组合爆炸。}(hjIhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK4hjhhubh)}(hX5最后，随着高级语言结构（在 C++ 中，当然也在其他语言中）的进步，编译器现在有可能在没有程 序员干预的情况下利用 GPU 和其他设备。某些编译器识别的模式仅适用于共享地址空间。对所有 其他模式，使用共享地址空间也更合理。h]hX5最后，随着高级语言结构（在 C++ 中，当然也在其他语言中）的进步，编译器现在有可能在没有程 序员干预的情况下利用 GPU 和其他设备。某些编译器识别的模式仅适用于共享地址空间。对所有 其他模式，使用共享地址空间也更合理。}(hjWhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK7hjhhubeh}(h]jah ]h"]0使用特定于设备的内存分配器的问题ah$]h&]uh1jdhjfhhhhhKubje)}(hhh](jj)}(hI/O 总线、设备内存特性h]hI/O 总线、设备内存特性}(hjohhhNhNubah}(h]h ]h"]h$]h&]jjuh1jihjlhhhhhK=ubh)}(hX由于一些限制，I/O 总线削弱了共享地址空间。大多数 I/O 总线只允许从设备到主内存的基本 内存访问；甚至缓存一致性通常是可选的。从 CPU 访问设备内存甚至更加有限。通常情况下，它 不是缓存一致的。h]hX由于一些限制，I/O 总线削弱了共享地址空间。大多数 I/O 总线只允许从设备到主内存的基本 内存访问；甚至缓存一致性通常是可选的。从 CPU 访问设备内存甚至更加有限。通常情况下，它 不是缓存一致的。}(hj}hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK?hjlhhubh)}(hX如果我们只考虑 PCIE 总线，那么设备可以访问主内存（通常通过 IOMMU）并与 CPU 缓存一 致。但是，它只允许设备对主存储器进行一组有限的原子操作。这在另一个方向上更糟：CPU 只能访问有限范围的设备内存，而不能对其执行原子操作。因此，从内核的角度来看，设备内存不 能被视为与常规内存等同。h]hX如果我们只考虑 PCIE 总线，那么设备可以访问主内存（通常通过 IOMMU）并与 CPU 缓存一 致。但是，它只允许设备对主存储器进行一组有限的原子操作。这在另一个方向上更糟：CPU 只能访问有限范围的设备内存，而不能对其执行原子操作。因此，从内核的角度来看，设备内存不 能被视为与常规内存等同。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKChjlhhubh)}(hX另一个严重的因素是带宽有限（约 32GBytes/s，PCIE 4.0 和 16 通道）。这比最快的 GPU 内存 (1 TBytes/s) 慢 33 倍。最后一个限制是延迟。从设备访问主内存的延迟比设备访问自 己的内存时高一个数量级。h]hX另一个严重的因素是带宽有限（约 32GBytes/s，PCIE 4.0 和 16 通道）。这比最快的 GPU 内存 (1 TBytes/s) 慢 33 倍。最后一个限制是延迟。从设备访问主内存的延迟比设备访问自 己的内存时高一个数量级。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKHhjlhhubh)}(hXj一些平台正在开发新的 I/O 总线或对 PCIE 的添加/修改以解决其中一些限制 （OpenCAPI、CCIX）。它们主要允许 CPU 和设备之间的双向缓存一致性，并允许架构支持的所 有原子操作。遗憾的是，并非所有平台都遵循这一趋势，并且一些主要架构没有针对这些问题的硬 件解决方案。h]hXj一些平台正在开发新的 I/O 总线或对 PCIE 的添加/修改以解决其中一些限制 （OpenCAPI、CCIX）。它们主要允许 CPU 和设备之间的双向缓存一致性，并允许架构支持的所 有原子操作。遗憾的是，并非所有平台都遵循这一趋势，并且一些主要架构没有针对这些问题的硬 件解决方案。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKLhjlhhubh)}(h因此，为了使共享地址空间有意义，我们不仅必须允许设备访问任何内存，而且还必须允许任何内 存在设备使用时迁移到设备内存（在迁移时阻止 CPU 访问）。h]h因此，为了使共享地址空间有意义，我们不仅必须允许设备访问任何内存，而且还必须允许任何内 存在设备使用时迁移到设备内存（在迁移时阻止 CPU 访问）。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKQhjlhhubeh}(h]jah ]h"]i/o 总线、设备内存特性ah$]h&]uh1jdhjfhhhhhK=ubje)}(hhh](jj)}(h共享地址空间和迁移h]h共享地址空间和迁移}(hjhhhNhNubah}(h]h ]h"]h$]h&]jjuh1jihjhhhhhKVubh)}(hHMM 打算提供两个主要功能。第一个是通过复制cpu页表到设备页表中来共享地址空间，因此对 于进程地址空间中的任何有效主内存地址，相同的地址指向相同的物理内存。h]hHMM 打算提供两个主要功能。第一个是通过复制cpu页表到设备页表中来共享地址空间，因此对 于进程地址空间中的任何有效主内存地址，相同的地址指向相同的物理内存。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKXhjhhubh)}(hX?为了实现这一点，HMM 提供了一组帮助程序来填充设备页表，同时跟踪 CPU 页表更新。设备页表 更新不像 CPU 页表更新那么容易。要更新设备页表，您必须分配一个缓冲区（或使用预先分配的 缓冲区池）并在其中写入 GPU 特定命令以执行更新（取消映射、缓存失效和刷新等）。这不能通 过所有设备的通用代码来完成。因此，为什么HMM提供了帮助器，在把硬件的具体细节留给设备驱 动程序的同时，把一切可以考虑的因素都考虑进去了。h]hX?为了实现这一点，HMM 提供了一组帮助程序来填充设备页表，同时跟踪 CPU 页表更新。设备页表 更新不像 CPU 页表更新那么容易。要更新设备页表，您必须分配一个缓冲区（或使用预先分配的 缓冲区池）并在其中写入 GPU 特定命令以执行更新（取消映射、缓存失效和刷新等）。这不能通 过所有设备的通用代码来完成。因此，为什么HMM提供了帮助器，在把硬件的具体细节留给设备驱 动程序的同时，把一切可以考虑的因素都考虑进去了。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK[hjhhubh)}(hXgHMM 提供的第二种机制是一种新的 ZONE_DEVICE 内存，它允许为设备内存的每个页面分配一个 struct page。这些页面很特殊，因为 CPU 无法映射它们。然而，它们允许使用现有的迁移机 制将主内存迁移到设备内存，从 CPU 的角度来看，一切看起来都像是换出到磁盘的页面。使用 struct page可以与现有的 mm 机制进行最简单、最干净的集成。再次，HMM 仅提供帮助程序， 首先为设备内存热插拔新的 ZONE_DEVICE 内存，然后执行迁移。迁移内容和时间的策略决定留 给设备驱动程序。h]hXgHMM 提供的第二种机制是一种新的 ZONE_DEVICE 内存，它允许为设备内存的每个页面分配一个 struct page。这些页面很特殊，因为 CPU 无法映射它们。然而，它们允许使用现有的迁移机 制将主内存迁移到设备内存，从 CPU 的角度来看，一切看起来都像是换出到磁盘的页面。使用 struct page可以与现有的 mm 机制进行最简单、最干净的集成。再次，HMM 仅提供帮助程序， 首先为设备内存热插拔新的 ZONE_DEVICE 内存，然后执行迁移。迁移内容和时间的策略决定留 给设备驱动程序。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKahjhhubh)}(hX请注意，任何 CPU 对设备页面的访问都会触发缺页异常并迁移回主内存。例如，当支持给定CPU 地址 A 的页面从主内存页面迁移到设备页面时，对地址 A 的任何 CPU 访问都会触发缺页异常 并启动向主内存的迁移。h]hX请注意，任何 CPU 对设备页面的访问都会触发缺页异常并迁移回主内存。例如，当支持给定CPU 地址 A 的页面从主内存页面迁移到设备页面时，对地址 A 的任何 CPU 访问都会触发缺页异常 并启动向主内存的迁移。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhhjhhubh)}(h凭借这两个特性，HMM 不仅允许设备镜像进程地址空间并保持 CPU 和设备页表同步，而且还通 过迁移设备正在使用的数据集部分来利用设备内存。h]h凭借这两个特性，HMM 不仅允许设备镜像进程地址空间并保持 CPU 和设备页表同步，而且还通 过迁移设备正在使用的数据集部分来利用设备内存。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKlhjhhubeh}(h]jah ]h"]共享地址空间和迁移ah$]h&]uh1jdhjfhhhhhKVubje)}(hhh](jj)}(h地址空间镜像实现和APIh]h地址空间镜像实现和API}(hj+hhhNhNubah}(h]h ]h"]h$]h&]jj$uh1jihj(hhhhhKqubh)}(h地址空间镜像的主要目标是允许将一定范围的 CPU 页表复制到一个设备页表中；HMM 有助于 保持两者同步。想要镜像进程地址空间的设备驱动程序必须从注册 mmu_interval_notifier 开始::h]h地址空间镜像的主要目标是允许将一定范围的 CPU 页表复制到一个设备页表中；HMM 有助于 保持两者同步。想要镜像进程地址空间的设备驱动程序必须从注册 mmu_interval_notifier 开始:}(hj9hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKshj(hhubh literal_block)}(hXint mmu_interval_notifier_insert(struct mmu_interval_notifier *interval_sub, struct mm_struct *mm, unsigned long start, unsigned long length, const struct mmu_interval_notifier_ops *ops);h]hXint mmu_interval_notifier_insert(struct mmu_interval_notifier *interval_sub, struct mm_struct *mm, unsigned long start, unsigned long length, const struct mmu_interval_notifier_ops *ops);}hjIsbah}(h]h ]h"]h$]h&] xml:spacepreserveuh1jGhhhKwhj(hhubh)}(h在 ops->invalidate() 回调期间，设备驱动程序必须对范围执行更新操作（将范围标记为只 读，或完全取消映射等）。设备必须在驱动程序回调返回之前完成更新。h]h在 ops->invalidate() 回调期间，设备驱动程序必须对范围执行更新操作（将范围标记为只 读，或完全取消映射等）。设备必须在驱动程序回调返回之前完成更新。}(hjYhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhK|hj(hhubh)}(hP当设备驱动程序想要填充一个虚拟地址范围时，它可以使用::h]hO当设备驱动程序想要填充一个虚拟地址范围时，它可以使用:}(hjghhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhj(hhubjH)}(h-int hmm_range_fault(struct hmm_range *range);h]h-int hmm_range_fault(struct hmm_range *range);}hjusbah}(h]h ]h"]h$]h&]jWjXuh1jGhhhKhj(hhubh)}(h如果请求写访问，它将在丢失或只读条目上触发缺页异常（见下文）。缺页异常使用通用的 mm 缺 页异常代码路径，就像 CPU 缺页异常一样。使用模式是::h]h如果请求写访问，它将在丢失或只读条目上触发缺页异常（见下文）。缺页异常使用通用的 mm 缺 页异常代码路径，就像 CPU 缺页异常一样。使用模式是:}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhj(hhubjH)}(hX\int driver_populate_range(...) { struct hmm_range range; ... range.notifier = &interval_sub; range.start = ...; range.end = ...; range.hmm_pfns = ...; if (!mmget_not_zero(interval_sub->notifier.mm)) return -EFAULT; again: range.notifier_seq = mmu_interval_read_begin(&interval_sub); mmap_read_lock(mm); ret = hmm_range_fault(&range); if (ret) { mmap_read_unlock(mm); if (ret == -EBUSY) goto again; return ret; } mmap_read_unlock(mm); take_lock(driver->update); if (mmu_interval_read_retry(&ni, range.notifier_seq) { release_lock(driver->update); goto again; } /* Use pfns array content to update device page table, * under the update lock */ release_lock(driver->update); return 0; }h]hX\int driver_populate_range(...) { struct hmm_range range; ... range.notifier = &interval_sub; range.start = ...; range.end = ...; range.hmm_pfns = ...; if (!mmget_not_zero(interval_sub->notifier.mm)) return -EFAULT; again: range.notifier_seq = mmu_interval_read_begin(&interval_sub); mmap_read_lock(mm); ret = hmm_range_fault(&range); if (ret) { mmap_read_unlock(mm); if (ret == -EBUSY) goto again; return ret; } mmap_read_unlock(mm); take_lock(driver->update); if (mmu_interval_read_retry(&ni, range.notifier_seq) { release_lock(driver->update); goto again; } /* Use pfns array content to update device page table, * under the update lock */ release_lock(driver->update); return 0; }}hjsbah}(h]h ]h"]h$]h&]jWjXuh1jGhhhKhj(hhubh)}(hdriver->update 锁与驱动程序在其 invalidate() 回调中使用的锁相同。该锁必须在调用 mmu_interval_read_retry() 之前保持，以避免与并发 CPU 页表更新发生任何竞争。h]hdriver->update 锁与驱动程序在其 invalidate() 回调中使用的锁相同。该锁必须在调用 mmu_interval_read_retry() 之前保持，以避免与并发 CPU 页表更新发生任何竞争。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhj(hhubeh}(h]j*ah ]h"]地址空间镜像实现和apiah$]h&]uh1jdhjfhhhhhKqubje)}(hhh](jj)}(h'利用 default_flags 和 pfn_flags_maskh]h'利用 default_flags 和 pfn_flags_mask}(hjhhhNhNubah}(h]h ]h"]h$]h&]jjFuh1jihjhhhhhKubh)}(hhmm_range 结构有 2 个字段，default_flags 和 pfn_flags_mask，它们指定整个范围 的故障或快照策略，而不必为 pfns 数组中的每个条目设置它们。h]hhmm_range 结构有 2 个字段，default_flags 和 pfn_flags_mask，它们指定整个范围 的故障或快照策略，而不必为 pfns 数组中的每个条目设置它们。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjhhubh)}(hb例如，如果设备驱动程序需要至少具有读取权限的范围的页面，它会设置::h]ha例如，如果设备驱动程序需要至少具有读取权限的范围的页面，它会设置:}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjhhubjH)}(hDrange->default_flags = HMM_PFN_REQ_FAULT; range->pfn_flags_mask = 0;h]hDrange->default_flags = HMM_PFN_REQ_FAULT; range->pfn_flags_mask = 0;}hjsbah}(h]h ]h"]h$]h&]jWjXuh1jGhhhKhjhhubh)}(hl并如上所述调用 hmm_range_fault()。这将填充至少具有读取权限的范围内的所有页面。h]hl并如上所述调用 hmm_range_fault()。这将填充至少具有读取权限的范围内的所有页面。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjhhubh)}(h现在假设驱动程序想要做同样的事情，除了它想要拥有写权限的范围内的一页。现在驱动程序设 置::h]h现在假设驱动程序想要做同样的事情，除了它想要拥有写权限的范围内的一页。现在驱动程序设 置:}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjhhubjH)}(hrange->default_flags = HMM_PFN_REQ_FAULT; range->pfn_flags_mask = HMM_PFN_REQ_WRITE; range->pfns[index_of_write] = HMM_PFN_REQ_WRITE;h]hrange->default_flags = HMM_PFN_REQ_FAULT; range->pfn_flags_mask = HMM_PFN_REQ_WRITE; range->pfns[index_of_write] = HMM_PFN_REQ_WRITE;}hj sbah}(h]h ]h"]h$]h&]jWjXuh1jGhhhKhjhhubh)}(hX有了这个，HMM 将在至少读取（即有效）的所有页面中异常，并且对于地址 == range->start + (index_of_write << PAGE_SHIFT) 它将异常写入权限，即，如果 CPU pte 没有设置写权限，那么HMM将调用handle_mm_fault()。h]hX有了这个，HMM 将在至少读取（即有效）的所有页面中异常，并且对于地址 == range->start + (index_of_write << PAGE_SHIFT) 它将异常写入权限，即，如果 CPU pte 没有设置写权限，那么HMM将调用handle_mm_fault()。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjhhubh)}(hhmm_range_fault 完成后，标志位被设置为页表的当前状态，即 HMM_PFN_VALID | 如果页 面可写，将设置 HMM_PFN_WRITE。h]hhmm_range_fault 完成后，标志位被设置为页表的当前状态，即 HMM_PFN_VALID | 如果页 面可写，将设置 HMM_PFN_WRITE。}(hj'hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjhhubeh}(h]jLah ]h"]'利用 default_flags 和 pfn_flags_maskah$]h&]uh1jdhjfhhhhhKubje)}(hhh](jj)}(h3从核心内核的角度表示和管理设备内存h]h3从核心内核的角度表示和管理设备内存}(hj?hhhNhNubah}(h]h ]h"]h$]h&]jjhuh1jihj<hhhhhKubh)}(hX尝试了几种不同的设计来支持设备内存。第一个使用特定于设备的数据结构来保存有关迁移内存 的信息，HMM 将自身挂接到 mm 代码的各个位置，以处理对设备内存支持的地址的任何访问。 事实证明，这最终复制了 struct page 的大部分字段，并且还需要更新许多内核代码路径才 能理解这种新的内存类型。h]hX尝试了几种不同的设计来支持设备内存。第一个使用特定于设备的数据结构来保存有关迁移内存 的信息，HMM 将自身挂接到 mm 代码的各个位置，以处理对设备内存支持的地址的任何访问。 事实证明，这最终复制了 struct page 的大部分字段，并且还需要更新许多内核代码路径才 能理解这种新的内存类型。}(hjMhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhj<hhubh)}(hX1大多数内核代码路径从不尝试访问页面后面的内存，而只关心struct page的内容。正因为如此， HMM 切换到直接使用 struct page 用于设备内存，这使得大多数内核代码路径不知道差异。 我们只需要确保没有人试图从 CPU 端映射这些页面。h]hX1大多数内核代码路径从不尝试访问页面后面的内存，而只关心struct page的内容。正因为如此， HMM 切换到直接使用 struct page 用于设备内存，这使得大多数内核代码路径不知道差异。 我们只需要确保没有人试图从 CPU 端映射这些页面。}(hj[hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhj<hhubeh}(h]jnah ]h"]3从核心内核的角度表示和管理设备内存ah$]h&]uh1jdhjfhhhhhKubje)}(hhh](jj)}(h移入和移出设备内存h]h移入和移出设备内存}(hjshhhNhNubah}(h]h ]h"]h$]h&]jjuh1jihjphhhhhKubh)}(hX,由于 CPU 无法直接访问设备内存，因此设备驱动程序必须使用硬件 DMA 或设备特定的加载/存 储指令来迁移数据。migrate_vma_setup()、migrate_vma_pages() 和 migrate_vma_finalize() 函数旨在使驱动程序更易于编写并集中跨驱动程序的通用代码。h]hX,由于 CPU 无法直接访问设备内存，因此设备驱动程序必须使用硬件 DMA 或设备特定的加载/存 储指令来迁移数据。migrate_vma_setup()、migrate_vma_pages() 和 migrate_vma_finalize() 函数旨在使驱动程序更易于编写并集中跨驱动程序的通用代码。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjphhubh)}(h在将页面迁移到设备私有内存之前，需要创建特殊的设备私有 ``struct page`` 。这些将用 作特殊的“交换”页表条目，以便 CPU 进程在尝试访问已迁移到设备专用内存的页面时会发生异常。h](hR在将页面迁移到设备私有内存之前，需要创建特殊的设备私有 }(hjhhhNhNubhliteral)}(h``struct page``h]h struct page}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 。这些将用 作特殊的“交换”页表条目，以便 CPU 进程在尝试访问已迁移到设备专用内存的页面时会发生异常。}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhKhjphhubh)}(h/这些可以通过以下方式分配和释放::h]h.这些可以通过以下方式分配和释放:}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjphhubjH)}(hXstruct resource *res; struct dev_pagemap pagemap; res = request_free_mem_region(&iomem_resource, /* number of bytes */, "name of driver resource"); pagemap.type = MEMORY_DEVICE_PRIVATE; pagemap.range.start = res->start; pagemap.range.end = res->end; pagemap.nr_range = 1; pagemap.ops = &device_devmem_ops; memremap_pages(&pagemap, numa_node_id()); memunmap_pages(&pagemap); release_mem_region(pagemap.range.start, range_len(&pagemap.range));h]hXstruct resource *res; struct dev_pagemap pagemap; res = request_free_mem_region(&iomem_resource, /* number of bytes */, "name of driver resource"); pagemap.type = MEMORY_DEVICE_PRIVATE; pagemap.range.start = res->start; pagemap.range.end = res->end; pagemap.nr_range = 1; pagemap.ops = &device_devmem_ops; memremap_pages(&pagemap, numa_node_id()); memunmap_pages(&pagemap); release_mem_region(pagemap.range.start, range_len(&pagemap.range));}hjsbah}(h]h ]h"]h$]h&]jWjXuh1jGhhhKhjphhubh)}(h还有devm_request_free_mem_region(), devm_memremap_pages(), devm_memunmap_pages() 和 devm_release_mem_region() 当资源可以绑定到 ``struct device``.h](h还有devm_request_free_mem_region(), devm_memremap_pages(), devm_memunmap_pages() 和 devm_release_mem_region() 当资源可以绑定到 }(hjhhhNhNubj)}(h``struct device``h]h struct device}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh.}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhKhjphhubh)}(h整体迁移步骤类似于在系统内存中迁移 NUMA 页面(see Documentation/mm/page_migration.rst) ， 但这些步骤分为设备驱动程序特定代码和共享公共代码:h]h整体迁移步骤类似于在系统内存中迁移 NUMA 页面(see Documentation/mm/page_migration.rst) ， 但这些步骤分为设备驱动程序特定代码和共享公共代码:}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhKhjphhubhenumerated_list)}(hhh](j)}(h``mmap_read_lock()`` 设备驱动程序必须将 ``struct vm_area_struct`` 传递给migrate_vma_setup()， 因此需要在迁移期间保留 mmap_read_lock() 或 mmap_write_lock()。 h](h)}(h``mmap_read_lock()``h]j)}(hjh]hmmap_read_lock()}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubah}(h]h ]h"]h$]h&]uh1hhhhKhjubh)}(h设备驱动程序必须将 ``struct vm_area_struct`` 传递给migrate_vma_setup()， 因此需要在迁移期间保留 mmap_read_lock() 或 mmap_write_lock()。h](h设备驱动程序必须将 }(hjhhhNhNubj)}(h``struct vm_area_struct``h]hstruct vm_area_struct}(hj#hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubhl 传递给migrate_vma_setup()， 因此需要在迁移期间保留 mmap_read_lock() 或 mmap_write_lock()。}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhKhjubeh}(h]h ]h"]h$]h&]uh1jhjhhhhhNubj)}(hX*``migrate_vma_setup(struct migrate_vma *args)`` 设备驱动初始化了 ``struct migrate_vma`` 的字段，并将该指针传递给 migrate_vma_setup()。``args->flags`` 字段是用来过滤哪些源页面应该被迁移。 例如，设置 ``MIGRATE_VMA_SELECT_SYSTEM`` 将只迁移系统内存，设置 ``MIGRATE_VMA_SELECT_DEVICE_PRIVATE`` 将只迁移驻留在设备私有内存中的页 面。如果后者被设置， ``args->pgmap_owner`` 字段被用来识别驱动所拥有的设备 私有页。这就避免了试图迁移驻留在其他设备中的设备私有页。目前，只有匿名的私有VMA 范围可以被迁移到系统内存和设备私有内存。 migrate_vma_setup()所做的第一步是用 ``mmu_notifier_invalidate_range_start()`` 和 ``mmu_notifier_invalidate_range_end()`` 调用来遍历设备周围的页表，使 其他设备的MMU无效，以便在 ``args->src`` 数组中填写要迁移的PFN。 ``invalidate_range_start()`` 回调传递给一个``struct mmu_notifier_range`` ， 其 ``event`` 字段设置为MMU_NOTIFY_MIGRATE， ``owner`` 字段设置为传递给 migrate_vma_setup()的 ``args->pgmap_owner`` 字段。这允许设备驱动跳过无 效化回调，只无效化那些实际正在迁移的设备私有MMU映射。这一点将在下一节详细解释。 在遍历页表时，一个 ``pte_none()`` 或 ``is_zero_pfn()`` 条目导致一个有效 的 “zero” PFN 存储在 ``args->src`` 阵列中。这让驱动分配设备私有内存并清 除它，而不是复制一个零页。到系统内存或设备私有结构页的有效PTE条目将被 ``lock_page()``锁定，与LRU隔离（如果系统内存和设备私有页不在LRU上），从进 程中取消映射，并插入一个特殊的迁移PTE来代替原来的PTE。 migrate_vma_setup() 还清除了 ``args->dst`` 数组。 h](h)}(h/``migrate_vma_setup(struct migrate_vma *args)``h]j)}(hjGh]h+migrate_vma_setup(struct migrate_vma *args)}(hjIhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjEubah}(h]h ]h"]h$]h&]uh1hhhhKhjAubh)}(hXn设备驱动初始化了 ``struct migrate_vma`` 的字段，并将该指针传递给 migrate_vma_setup()。``args->flags`` 字段是用来过滤哪些源页面应该被迁移。 例如，设置 ``MIGRATE_VMA_SELECT_SYSTEM`` 将只迁移系统内存，设置 ``MIGRATE_VMA_SELECT_DEVICE_PRIVATE`` 将只迁移驻留在设备私有内存中的页 面。如果后者被设置， ``args->pgmap_owner`` 字段被用来识别驱动所拥有的设备 私有页。这就避免了试图迁移驻留在其他设备中的设备私有页。目前，只有匿名的私有VMA 范围可以被迁移到系统内存和设备私有内存。h](h设备驱动初始化了 }(hj\hhhNhNubj)}(h``struct migrate_vma``h]hstruct migrate_vma}(hjdhhhNhNubah}(h]h ]h"]h$]h&]uh1jhj\ubh< 的字段，并将该指针传递给 migrate_vma_setup()。}(hj\hhhNhNubj)}(h``args->flags``h]h args->flags}(hjvhhhNhNubah}(h]h ]h"]h$]h&]uh1jhj\ubhH 字段是用来过滤哪些源页面应该被迁移。 例如，设置 }(hj\hhhNhNubj)}(h``MIGRATE_VMA_SELECT_SYSTEM``h]hMIGRATE_VMA_SELECT_SYSTEM}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhj\ubh# 将只迁移系统内存，设置 }(hj\hhhNhNubj)}(h%``MIGRATE_VMA_SELECT_DEVICE_PRIVATE``h]h!MIGRATE_VMA_SELECT_DEVICE_PRIVATE}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhj\ubhQ 将只迁移驻留在设备私有内存中的页 面。如果后者被设置， }(hj\hhhNhNubj)}(h``args->pgmap_owner``h]hargs->pgmap_owner}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhj\ubh 字段被用来识别驱动所拥有的设备 私有页。这就避免了试图迁移驻留在其他设备中的设备私有页。目前，只有匿名的私有VMA 范围可以被迁移到系统内存和设备私有内存。}(hj\hhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhKhjAubh)}(hXvmigrate_vma_setup()所做的第一步是用 ``mmu_notifier_invalidate_range_start()`` 和 ``mmu_notifier_invalidate_range_end()`` 调用来遍历设备周围的页表，使 其他设备的MMU无效，以便在 ``args->src`` 数组中填写要迁移的PFN。 ``invalidate_range_start()`` 回调传递给一个``struct mmu_notifier_range`` ， 其 ``event`` 字段设置为MMU_NOTIFY_MIGRATE， ``owner`` 字段设置为传递给 migrate_vma_setup()的 ``args->pgmap_owner`` 字段。这允许设备驱动跳过无 效化回调，只无效化那些实际正在迁移的设备私有MMU映射。这一点将在下一节详细解释。h](h,migrate_vma_setup()所做的第一步是用 }(hjhhhNhNubj)}(h)``mmu_notifier_invalidate_range_start()``h]h%mmu_notifier_invalidate_range_start()}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 和 }(hjhhhNhNubj)}(h'``mmu_notifier_invalidate_range_end()``h]h#mmu_notifier_invalidate_range_end()}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubhQ 调用来遍历设备周围的页表，使 其他设备的MMU无效，以便在 }(hjhhhNhNubj)}(h ``args->src``h]h args->src}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh# 数组中填写要迁移的PFN。 }(hjhhhNhNubj)}(h``invalidate_range_start()``h]hinvalidate_range_start()}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh< 回调传递给一个``struct mmu_notifier_range`` ， 其 }(hjhhhNhNubj)}(h ``event``h]hevent}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh& 字段设置为MMU_NOTIFY_MIGRATE， }(hjhhhNhNubj)}(h ``owner``h]howner}(hj&hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh1 字段设置为传递给 migrate_vma_setup()的 }(hjhhhNhNubj)}(h``args->pgmap_owner``h]hargs->pgmap_owner}(hj8hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 字段。这允许设备驱动跳过无 效化回调，只无效化那些实际正在迁移的设备私有MMU映射。这一点将在下一节详细解释。}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhMhjAubh)}(hX在遍历页表时，一个 ``pte_none()`` 或 ``is_zero_pfn()`` 条目导致一个有效 的 “zero” PFN 存储在 ``args->src`` 阵列中。这让驱动分配设备私有内存并清 除它，而不是复制一个零页。到系统内存或设备私有结构页的有效PTE条目将被 ``lock_page()``锁定，与LRU隔离（如果系统内存和设备私有页不在LRU上），从进 程中取消映射，并插入一个特殊的迁移PTE来代替原来的PTE。 migrate_vma_setup() 还清除了 ``args->dst`` 数组。h](h在遍历页表时，一个 }(hjPhhhNhNubj)}(h``pte_none()``h]h pte_none()}(hjXhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjPubh 或 }(hjPhhhNhNubj)}(h``is_zero_pfn()``h]h is_zero_pfn()}(hjjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjPubh8 条目导致一个有效 的 “zero” PFN 存储在 }(hjPhhhNhNubj)}(h ``args->src``h]h args->src}(hj|hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjPubh 阵列中。这让驱动分配设备私有内存并清 除它，而不是复制一个零页。到系统内存或设备私有结构页的有效PTE条目将被 }(hjPhhhNhNubj)}(h``lock_page()``锁定，与LRU隔离（如果系统内存和设备私有页不在LRU上），从进 程中取消映射，并插入一个特殊的迁移PTE来代替原来的PTE。 migrate_vma_setup() 还清除了 ``args->dst``h]hlock_page()``锁定，与LRU隔离（如果系统内存和设备私有页不在LRU上），从进 程中取消映射，并插入一个特殊的迁移PTE来代替原来的PTE。 migrate_vma_setup() 还清除了 ``args->dst}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjPubh 数组。}(hjPhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhMhjAubeh}(h]h ]h"]h$]h&]uh1jhjhhhhhNubj)}(hX)设备驱动程序分配目标页面并将源页面复制到目标页面。 驱动程序检查每个 ``src`` 条目以查看该 ``MIGRATE_PFN_MIGRATE`` 位是否已 设置并跳过未迁移的条目。设备驱动程序还可以通过不填充页面的 ``dst`` 数组来选 择跳过页面迁移。 然后，驱动程序分配一个设备私有 struct page 或一个系统内存页，用 ``lock_page()`` 锁定该页，并将 ``dst`` 数组条目填入:: dst[i] = migrate_pfn(page_to_pfn(dpage)); 现在驱动程序知道这个页面正在被迁移，它可以使设备私有 MMU 映射无效并将设备私有 内存复制到系统内存或另一个设备私有页面。由于核心 Linux 内核会处理 CPU 页表失 效，因此设备驱动程序只需使其自己的 MMU 映射失效。 驱动程序可以使用 ``migrate_pfn_to_page(src[i])`` 来获取源设备的 ``struct page`` 面，并将源页面复制到目标设备上，如果指针为 ``NULL`` ，意 味着源页面没有被填充到系统内存中，则清除目标设备的私有内存。 h](h)}(hK设备驱动程序分配目标页面并将源页面复制到目标页面。h]hK设备驱动程序分配目标页面并将源页面复制到目标页面。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhMhjubh)}(h驱动程序检查每个 ``src`` 条目以查看该 ``MIGRATE_PFN_MIGRATE`` 位是否已 设置并跳过未迁移的条目。设备驱动程序还可以通过不填充页面的 ``dst`` 数组来选 择跳过页面迁移。h](h驱动程序检查每个 }(hjhhhNhNubj)}(h``src``h]hsrc}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 条目以查看该 }(hjhhhNhNubj)}(h``MIGRATE_PFN_MIGRATE``h]hMIGRATE_PFN_MIGRATE}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubhf 位是否已 设置并跳过未迁移的条目。设备驱动程序还可以通过不填充页面的 }(hjhhhNhNubj)}(h``dst``h]hdst}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh& 数组来选 择跳过页面迁移。}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhMhjubh)}(h然后，驱动程序分配一个设备私有 struct page 或一个系统内存页，用 ``lock_page()`` 锁定该页，并将 ``dst`` 数组条目填入::h](hY然后，驱动程序分配一个设备私有 struct page 或一个系统内存页，用 }(hjhhhNhNubj)}(h``lock_page()``h]h lock_page()}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 锁定该页，并将 }(hjhhhNhNubj)}(h``dst``h]hdst}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 数组条目填入:}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhMhjubjH)}(h)dst[i] = migrate_pfn(page_to_pfn(dpage));h]h)dst[i] = migrate_pfn(page_to_pfn(dpage));}hj4sbah}(h]h ]h"]h$]h&]jWjXuh1jGhhhM hjubh)}(hX&现在驱动程序知道这个页面正在被迁移，它可以使设备私有 MMU 映射无效并将设备私有 内存复制到系统内存或另一个设备私有页面。由于核心 Linux 内核会处理 CPU 页表失 效，因此设备驱动程序只需使其自己的 MMU 映射失效。h]hX&现在驱动程序知道这个页面正在被迁移，它可以使设备私有 MMU 映射无效并将设备私有 内存复制到系统内存或另一个设备私有页面。由于核心 Linux 内核会处理 CPU 页表失 效，因此设备驱动程序只需使其自己的 MMU 映射失效。}(hjBhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhM"hjubh)}(hX 驱动程序可以使用 ``migrate_pfn_to_page(src[i])`` 来获取源设备的 ``struct page`` 面，并将源页面复制到目标设备上，如果指针为 ``NULL`` ，意 味着源页面没有被填充到系统内存中，则清除目标设备的私有内存。h](h驱动程序可以使用 }(hjPhhhNhNubj)}(h``migrate_pfn_to_page(src[i])``h]hmigrate_pfn_to_page(src[i])}(hjXhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjPubh 来获取源设备的 }(hjPhhhNhNubj)}(h``struct page``h]h struct page}(hjjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjPubhA 面，并将源页面复制到目标设备上，如果指针为 }(hjPhhhNhNubj)}(h``NULL``h]hNULL}(hj|hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjPubhb ，意 味着源页面没有被填充到系统内存中，则清除目标设备的私有内存。}(hjPhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhM&hjubeh}(h]h ]h"]h$]h&]uh1jhjhhhhhNubj)}(hX(``migrate_vma_pages()`` 这一步是实际“提交”迁移的地方。 如果源页是 ``pte_none()`` 或 ``is_zero_pfn()`` 页，这时新分配的页会被插 入到CPU的页表中。如果一个CPU线程在同一页面上发生异常，这可能会失败。然而，页 表被锁定，只有一个新页会被插入。如果它失去了竞争，设备驱动将看到 ``MIGRATE_PFN_MIGRATE`` 位被清除。 如果源页被锁定、隔离等，源 ``struct page`` 信息现在被复制到目标 ``struct page`` ，最终完成CPU端的迁移。 h](h)}(h``migrate_vma_pages()``h]j)}(hjh]hmigrate_vma_pages()}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubah}(h]h ]h"]h$]h&]uh1hhhhM*hjubh)}(h0这一步是实际“提交”迁移的地方。h]h0这一步是实际“提交”迁移的地方。}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhM,hjubh)}(hXR如果源页是 ``pte_none()`` 或 ``is_zero_pfn()`` 页，这时新分配的页会被插 入到CPU的页表中。如果一个CPU线程在同一页面上发生异常，这可能会失败。然而，页 表被锁定，只有一个新页会被插入。如果它失去了竞争，设备驱动将看到 ``MIGRATE_PFN_MIGRATE`` 位被清除。h](h如果源页是 }(hjhhhNhNubj)}(h``pte_none()``h]h pte_none()}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 或 }(hjhhhNhNubj)}(h``is_zero_pfn()``h]h is_zero_pfn()}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 页，这时新分配的页会被插 入到CPU的页表中。如果一个CPU线程在同一页面上发生异常，这可能会失败。然而，页 表被锁定，只有一个新页会被插入。如果它失去了竞争，设备驱动将看到 }(hjhhhNhNubj)}(h``MIGRATE_PFN_MIGRATE``h]hMIGRATE_PFN_MIGRATE}(hjhhhNhNubah}(h]h ]h"]h$]h&]uh1jhjubh 位被清除。}(hjhhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhM.hjubh)}(h如果源页被锁定、隔离等，源 ``struct page`` 信息现在被复制到目标 ``struct page`` ，最终完成CPU端的迁移。h](h(如果源页被锁定、隔离等，源 }(hj hhhNhNubj)}(h``struct page``h]h struct page}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1jhj ubh 信息现在被复制到目标 }(hj hhhNhNubj)}(h``struct page``h]h struct page}(hj! hhhNhNubah}(h]h ]h"]h$]h&]uh1jhj ubh" ，最终完成CPU端的迁移。}(hj hhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhM3hjubeh}(h]h ]h"]h$]h&]uh1jhjhhhhhNubj)}(hX 设备驱动为仍在迁移的页面更新设备MMU页表，回滚未迁移的页面。 如果 ``src`` 条目仍然有 ``MIGRATE_PFN_MIGRATE`` 位被设置，设备驱动可以 更新设备MMU，如果 ``MIGRATE_PFN_WRITE`` 位被设置，则设置写启用位。 h](h)}(hW设备驱动为仍在迁移的页面更新设备MMU页表，回滚未迁移的页面。h]hW设备驱动为仍在迁移的页面更新设备MMU页表，回滚未迁移的页面。}(hjC hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhM6hj? ubh)}(h如果 ``src`` 条目仍然有 ``MIGRATE_PFN_MIGRATE`` 位被设置，设备驱动可以 更新设备MMU，如果 ``MIGRATE_PFN_WRITE`` 位被设置，则设置写启用位。h](h如果 }(hjQ hhhNhNubj)}(h``src``h]hsrc}(hjY hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjQ ubh 条目仍然有 }(hjQ hhhNhNubj)}(h``MIGRATE_PFN_MIGRATE``h]hMIGRATE_PFN_MIGRATE}(hjk hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjQ ubh< 位被设置，设备驱动可以 更新设备MMU，如果 }(hjQ hhhNhNubj)}(h``MIGRATE_PFN_WRITE``h]hMIGRATE_PFN_WRITE}(hj} hhhNhNubah}(h]h ]h"]h$]h&]uh1jhjQ ubh( 位被设置，则设置写启用位。}(hjQ hhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhM8hj? ubeh}(h]h ]h"]h$]h&]uh1jhjhhhhhNubj)}(h``migrate_vma_finalize()`` 这一步用新页的页表项替换特殊的迁移页表项，并释放对源和目的 ``struct page`` 的引用。 h](h)}(h``migrate_vma_finalize()``h]j)}(hj h]hmigrate_vma_finalize()}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1jhj ubah}(h]h ]h"]h$]h&]uh1hhhhM;hj ubh)}(ht这一步用新页的页表项替换特殊的迁移页表项，并释放对源和目的 ``struct page`` 的引用。h](hX这一步用新页的页表项替换特殊的迁移页表项，并释放对源和目的 }(hj hhhNhNubj)}(h``struct page``h]h struct page}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1jhj ubh 的引用。}(hj hhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhM=hj ubeh}(h]h ]h"]h$]h&]uh1jhjhhhhhNubj)}(h4``mmap_read_unlock()`` 现在可以释放锁了。 h](h)}(h``mmap_read_unlock()``h]j)}(hj h]hmmap_read_unlock()}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1jhj ubah}(h]h ]h"]h$]h&]uh1hhhhM@hj ubh)}(h现在可以释放锁了。h]h现在可以释放锁了。}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhMBhj ubeh}(h]h ]h"]h$]h&]uh1jhjhhhhhNubeh}(h]h ]h"]h$]h&]enumtypearabicprefixhsuffix.uh1jhjphhhhhKubeh}(h]jah ]h"]移入和移出设备内存ah$]h&]uh1jdhjfhhhhhKubje)}(hhh](jj)}(h独占访问存储器h]h独占访问存储器}(hj hhhNhNubah}(h]h ]h"]h$]h&]jjuh1jihj hhhhhMEubh)}(hXn一些设备具有诸如原子PTE位的功能，可以用来实现对系统内存的原子访问。为了支持对一 个共享的虚拟内存页的原子操作，这样的设备需要对该页的访问是排他的，而不是来自CPU 的任何用户空间访问。 ``make_device_exclusive()`` 函数可以用来使一 个内存范围不能从用户空间访问。h](hX 一些设备具有诸如原子PTE位的功能，可以用来实现对系统内存的原子访问。为了支持对一 个共享的虚拟内存页的原子操作，这样的设备需要对该页的访问是排他的，而不是来自CPU 的任何用户空间访问。 }(hj. hhhNhNubj)}(h``make_device_exclusive()``h]hmake_device_exclusive()}(hj6 hhhNhNubah}(h]h ]h"]h$]h&]uh1jhj. ubhG 函数可以用来使一 个内存范围不能从用户空间访问。}(hj. hhhNhNubeh}(h]h ]h"]h$]h&]uh1hhhhMGhj hhubh)}(hX这将用特殊的交换条目替换给定范围内的所有页的映射。任何试图访问交换条目的行为都会 导致一个异常，该异常会通过用原始映射替换该条目而得到恢复。驱动程序会被通知映射已 经被MMU通知器改变，之后它将不再有对该页的独占访问。独占访问被保证持续到驱动程序 放弃页面锁和页面引用为止，这时页面上的任何CPU异常都可以按所述进行。h]hX这将用特殊的交换条目替换给定范围内的所有页的映射。任何试图访问交换条目的行为都会 导致一个异常，该异常会通过用原始映射替换该条目而得到恢复。驱动程序会被通知映射已 经被MMU通知器改变，之后它将不再有对该页的独占访问。独占访问被保证持续到驱动程序 放弃页面锁和页面引用为止，这时页面上的任何CPU异常都可以按所述进行。}(hjN hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhMLhj hhubeh}(h]jah ]h"]独占访问存储器ah$]h&]uh1jdhjfhhhhhMEubje)}(hhh](jj)}(h$内存 cgroup (memcg) 和 rss 统计h]h$内存 cgroup (memcg) 和 rss 统计}(hjf hhhNhNubah}(h]h ]h"]h$]h&]jjuh1jihjc hhhhhMRubh)}(hX目前，设备内存被视为 rss 计数器中的任何常规页面（如果设备页面用于匿名，则为匿名， 如果设备页面用于文件支持页面，则为文件，如果设备页面用于共享内存，则为 shmem）。 这是为了保持现有应用程序的故意选择，这些应用程序可能在不知情的情况下开始使用设备 内存，运行不受影响。h]hX目前，设备内存被视为 rss 计数器中的任何常规页面（如果设备页面用于匿名，则为匿名， 如果设备页面用于文件支持页面，则为文件，如果设备页面用于共享内存，则为 shmem）。 这是为了保持现有应用程序的故意选择，这些应用程序可能在不知情的情况下开始使用设备 内存，运行不受影响。}(hjt hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhMThjc hhubh)}(hXT一个缺点是 OOM 杀手可能会杀死使用大量设备内存而不是大量常规系统内存的应用程序， 因此不会释放太多系统内存。在决定以不同方式计算设备内存之前，我们希望收集更多关 于应用程序和系统在存在设备内存的情况下在内存压力下如何反应的实际经验。h]hXT一个缺点是 OOM 杀手可能会杀死使用大量设备内存而不是大量常规系统内存的应用程序， 因此不会释放太多系统内存。在决定以不同方式计算设备内存之前，我们希望收集更多关 于应用程序和系统在存在设备内存的情况下在内存压力下如何反应的实际经验。}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhMYhjc hhubh)}(hX对内存 cgroup 做出了相同的决定。设备内存页面根据相同的内存 cgroup 计算，常规 页面将被计算在内。这确实简化了进出设备内存的迁移。这也意味着从设备内存迁移回常规 内存不会失败，因为它会超过内存 cgroup 限制。一旦我们对设备内存的使用方式及其对 内存资源控制的影响有了更多的了解，我们可能会在后面重新考虑这个选择。h]hX对内存 cgroup 做出了相同的决定。设备内存页面根据相同的内存 cgroup 计算，常规 页面将被计算在内。这确实简化了进出设备内存的迁移。这也意味着从设备内存迁移回常规 内存不会失败，因为它会超过内存 cgroup 限制。一旦我们对设备内存的使用方式及其对 内存资源控制的影响有了更多的了解，我们可能会在后面重新考虑这个选择。}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhM]hjc hhubh)}(h请注意，设备内存永远不能由设备驱动程序或通过 GUP 固定，因此此类内存在进程退出时 总是被释放的。或者在共享内存或文件支持内存的情况下，当删除最后一个引用时。h]h请注意，设备内存永远不能由设备驱动程序或通过 GUP 固定，因此此类内存在进程退出时 总是被释放的。或者在共享内存或文件支持内存的情况下，当删除最后一个引用时。}(hj hhhNhNubah}(h]h ]h"]h$]h&]uh1hhhhMbhjc hhubeh}(h]jah ]h"]$内存 cgroup (memcg) 和 rss 统计ah$]h&]uh1jdhjfhhhhhMRubeh}(h]hmmah ]h"]异构内存管理 (hmm)ah$]h&]uh1jdhhhhhhhK ubeh}(h]h ]h"]h$]h&]sourcehuh1hcurrent_sourceN current_lineNsettingsdocutils.frontendValues)}(jiN generatorN datestampN source_linkN source_urlN toc_backlinksentryfootnote_backlinksK sectnum_xformKstrip_commentsNstrip_elements_with_classesN strip_classesN report_levelK halt_levelKexit_status_levelKdebugNwarning_streamN tracebackinput_encoding utf-8-siginput_encoding_error_handlerstrictoutput_encodingutf-8output_encoding_error_handlerj error_encodingutf-8error_encoding_error_handlerbackslashreplace language_codeenrecord_dependenciesNconfigN id_prefixhauto_id_prefixid dump_settingsNdump_internalsNdump_transformsNdump_pseudo_xmlNexpose_internalsNstrict_visitorN_disable_configN_sourceh، _destinationN _config_files]7/var/lib/git/docbuild/linux/Documentation/docutils.confafile_insertion_enabled raw_enabledKline_length_limitM'pep_referencesN pep_base_urlhttps://peps.python.org/pep_file_url_templatepep-%04drfc_referencesN rfc_base_url&https://datatracker.ietf.org/doc/html/ tab_widthKtrim_footnote_reference_spacesyntax_highlightlong smart_quotessmartquotes_locales]character_level_inline_markupdoctitle_xform docinfo_xformKsectsubtitle_xform image_loadinglinkembed_stylesheetcloak_email_addressessection_self_linkenvNubreporterNindirect_targets]substitution_defs_}substitution_names}refnames}refids}nameids}(j j jjjijjjj%jjj*j9jLjmjnj jj` jj ju nametypes}(j jjijj%jj9jmj j` j uh}(j jfjjjjjjljjj*j(jLjjnj<jjpjj jjc jjjjjjj$jjFj=jhj_jjjjjju footnote_refs} citation_refs} autofootnotes]autofootnote_refs]symbol_footnotes]symbol_footnote_refs] footnotes] citations]autofootnote_startKsymbol_footnote_startK id_counter collectionsCounter}j KsRparse_messages]transform_messages] transformerN include_log]+Documentation/translations/zh_CN/mm/hmm.rst(NNNNta decorationNhhub.