一种基于缓存软硬协调的CXL偏置管理方法与流程

专利2026-05-08  3


本发明属于计算机系统互联,具体涉及一种基于缓存软硬协调的cxl偏置管理方法,特别是通过软硬协调的技术手段优化偏置管理,以提高缓存一致性和内存管理效率。


背景技术:

1、随着数据量的爆炸式增长和高性能计算需求的增加,传统的互联技术逐渐无法满足现代计算环境对高吞吐量和低延迟的需求。cxl(computeexpresslink)作为一种新兴的高速互联技术,通过提供cxl.cache和cxl.mem协议,允许系统在高效的内存访问和缓存一致性管理之间找到平衡。

2、cxl技术的三种主要类型中,尤其是类型2(cxltype2)技术,强调通过偏置管理机制来维持设备和主机之间的缓存一致性。当前的偏置管理主要依赖以下两种模式:

3、软件辅助模式:主机通过软件主动管理偏置状态,在需要时发出偏置状态修改请求。

4、硬件自主模式:设备在不依赖主机软件的情况下,根据当前的请求和缓存状态自行调整偏置状态。

5、然而,这两种模式各有优劣,软件辅助模式能够更精确地管理偏置状态,但增加了主机的计算负担;硬件自主模式减少了主机的负担,但在复杂场景下可能导致性能下降。因此,现有技术中存在以下问题:

6、灵活性不足:无法在不同场景下灵活切换偏置管理模式。

7、性能优化不足:缺乏对偏置缓存的高效管理,影响了偏置状态切换的速度。

8、资源消耗高:在处理复杂任务时,单一的偏置管理模式可能导致系统资源消耗过高,降低了整体效率。


技术实现思路

1、针对灵活性不足、性能优化不足和资源消耗高等问题,本发明提供了一种基于缓存软硬协调的cxl偏置管理方法,通过引入软硬结合的偏置管理机制、优化的偏置缓存策略和动态的模式切换方法,有效提高系统的偏置管理效率,降低功耗,并在不同应用场景下提供灵活的解决方案。

2、为了实现上述目的,本发明通过如下的技术方案来实现:

3、一种基于缓存软硬协调的cxl偏置管理方法,所述方法包括以下步骤:

4、提供cxl设备,该设备包括cxl.mem接口、cxl.cache接口以及偏置管理组件;

5、通过请求解析模块解析cxl.mem请求,当接收到的cxl.mem请求符合修改偏置状态的要求时,将cxl.mem请求的信息填写至命令队列;

6、设备处理器根据cxl.mem请求的内容和当前cxl.cache的状态,判断是否需要调整偏置状态,若需要调整,则在命令队列中填写偏置转换请求;

7、通过命令解析模块解析命令队列中的偏置转换请求,并生成相应的操作指令;

8、偏置缓存控制模块根据命令解析模块生成的操作指令,执行偏置表的数据存取,管理偏置缓存的命中情况,并通过最少使用策略lru进行缓存替换;

9、在更改偏置状态时,判断当前偏置缓存是否命中,若命中,则直接更新缓存中的偏置表并返回完成信息;若未命中,则执行缓存替换并将新的偏置状态写入内部数据缓存dram。

10、进一步的,所述偏置管理组件通过以下步骤实现:

11、通过请求解析模块对cxl.mem请求进行解析,当接收到的cxl.mem请求符合修改偏置状态的要求时,将该请求的信息写入cxl.mem请求队列;

12、在软件辅助模式下,设备处理器接收主机发送的偏置转换请求,并将其写入命令队列;在硬件自主模式下,设备处理器根据请求解析模块解析的cxl.mem请求及当前cxl.cache的状态,判断是否需要调整偏置状态,若是,则将偏置转换请求写入命令队列;

13、通过命令解析模块,解析设备处理器生成的偏置转换命令,并将这些命令转换为对偏置状态的操作指令;

14、通过偏置缓存控制模块,执行偏置表的数据存取操作,并通过最少使用策略lru管理偏置缓存的命中和替换;

15、当偏置缓存命中时,直接更新偏置表中的偏置状态;当偏置缓存未命中时,执行缓存替换,并将新的偏置状态写入缓存和内部数据缓存;

16、通过寄存器模块,配置设备的硬件功能,并根据需要返回硬件状态;

17、在cxl.mem请求队列中缓存请求解析模块所填写的请求信息,并存储由设备处理器生成的偏置转换请求及偏置状态的读写请求;

18、通过写命令队列缓存由设备处理器发出的写命令及相关数据;通过读命令队列缓存由设备处理器发出的读命令;

19、通过读数据队列缓存由偏置缓存控制模块返回的缓存数据,以完成数据的读取操作。

20、进一步的,cxl.mem请求处理中软件辅助模式下偏置状态切换方法包括以下操作:

21、主机通过opencl api向设备处理器下发偏置转换请求;

22、设备处理器接收偏置转换请求后,填写至命令队列中,并根据当前cxl.cache的状态判断是否需要更改偏置状态;

23、设备处理器将偏置状态修改请求发送至命令队列,并通过命令解析模块解析命令,执行偏置状态的更改操作;

24、设备处理器接收到主机通过opencl api下发的偏置状态修改命令后,执行偏置状态的更新。

25、进一步的,所述偏置缓存控制模块进行的具体操作包括:

26、判断偏置缓存是否启用;

27、若启用,则检查缓存是否命中;

28、若缓存命中,则直接更新缓存中的偏置表,并返回完成信息;

29、若缓存未命中,则进行缓存替换,并向内部数据缓存dram写入新的偏置状态;

30、若未启用偏置缓存,直接向内部数据缓存dram写入新的偏置状态。

31、进一步的,cxl.mem请求处理中硬件自主模式下偏置状态切换方法包括以下操作:

32、解析来自cxl.mem接口的请求,判断请求是否涉及偏置状态更改;

33、若cxl.mem请求需要更改偏置状态,则将请求信息填写至命令队列的cxl.mem请求队列中;

34、设备处理器检查cxl.mem请求队列,获取需要处理的cxl.mem请求;

35、根据当前cxl.cache的状态和cxl.mem请求中的信息,判断是否需要更改偏置状态;

36、若需要更改偏置状态,则将写命令填写至命令队列中,由命令解析模块执行偏置状态更改。

37、进一步的,所述cxl设备的偏置缓存包括4个标志sram和4个偏置状态sram,每个标志sram容纳512个标志,每个偏置状态sram容纳512个偏置状态组。

38、进一步的,所述偏置缓存采用基于最少使用策略lru的缓存替换机制,保留频繁访问的数据,用于提高偏置缓存的命中率。

39、进一步的,所述偏置缓存的最少使用策略lru,包括以下操作:

40、利用4个访问计数器监控4组缓存的命中情况;

41、若命中,则对应的访问计数器加1,此时对应的偏置状态存在于缓存中,可直接使用;

42、若未命中,则比较4个访问计数器的大小,将请求对应的偏置状态从内部数据缓存dram搬移至对应的缓存中,同时将当前的访问计数器清零。

43、进一步的,所述设备处理器通过动态调整偏置表的大小来优化不同应用场景下的性能,具体包括:

44、在高负载情况下,增加偏置表的容量;在低负载情况下,减小偏置表的容量;偏置表大小的调整通过硬件自主完成。

45、进一步的,所述设备处理器在接收到cxl.mem请求后,结合当前cxl.cache的状态,判断是否需要调整偏置状态,若需要调整,则将偏置转换请求填写至命令队列中,并通过命令解析模块执行偏置状态的更改,确保cxl.cache的一致性。

46、与现有技术相比,本发明的有益效果是:本发明通过采用软硬结合的cxl偏置管理方法,显著提升了系统的性能、资源利用效率和灵活性。通过软硬结合的偏置管理机制,系统能够根据不同的工作负载智能选择最优的管理模式,减少主机与设备处理器之间的通信开销,加快偏置状态切换速度,提升系统的响应能力。同时,偏置缓存和最少使用策略的引入显著提高了缓存的命中率,降低了缓存未命中的概率,特别是在高负载情况下,提升了整体处理效率。本发明还通过动态切换软件辅助模式和硬件自主模式,有效降低了系统功耗,优化了资源利用,使系统在高负载和多任务场景下保持较低能耗,显著提升了能效比。此外,本发明的智能化管理方式使系统能够灵活应对复杂应用场景,避免了单一模式的性能瓶颈,简化了主机负担,优化了资源分配,提高了系统的运行效率。通过偏置缓存控制模块的优化,本发明确保了偏置状态的高效切换和一致性维护,增强了系统的稳定性和可靠性。还包括利用寄存器配置及处理器实现软件辅助与硬件自主模式的切换,合理分配硬件资源,节约了硬件资源并提升了系统性能。综上所述,本发明在系统性能、功耗优化、资源利用、系统灵活性和稳定性等多个方面取得了显著的提升,具备较强的创新性和实用价值。


技术特征:

1.一种基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述方法包括以下步骤:

2.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述偏置管理组件通过以下步骤实现:

3.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,cxl.mem请求处理中软件辅助模式下偏置状态切换方法,包括以下操作:

4.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述偏置缓存控制模块进行的具体操作包括:

5.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,cxl.mem请求处理中硬件自主模式下偏置状态切换方法,包括以下操作:

6.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述cxl设备的偏置缓存包括4个标志sram和4个偏置状态sram,每个标志sram容纳512个标志,每个偏置状态sram容纳512个偏置状态组。

7.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述偏置缓存采用基于最少使用策略lru的缓存替换机制,保留频繁访问的数据,用于提高偏置缓存的命中率。

8.根据权利要求7所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述偏置缓存的最少使用策略lru,包括以下操作:

9.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述设备处理器通过动态调整偏置表的大小来优化不同应用场景下的性能,具体包括:

10.根据权利要求1所述的基于缓存软硬协调的cxl偏置管理方法,其特征在于,所述设备处理器在接收到cxl.mem请求后,结合当前cxl.cache的状态,判断是否需要调整偏置状态,若需要调整,则将偏置转换请求填写至命令队列中,并通过命令解析模块执行偏置状态的更改,确保cxl.mem的一致性。


技术总结
本发明公开了一种基于缓存软硬协调的CXL偏置管理方法,用于优化计算机系统中的内存访问和缓存一致性管理。包括提供CXL设备,该设备包含CXL.mem接口、CXL.cache接口以及偏置管理组件。所述偏置管理组件由请求解析模块、命令队列、偏置缓存、设备处理器和寄存器模块构成。请求解析模块负责解析CXL.mem请求,设备处理器根据CXL.cache的状态动态调整偏置状态。偏置缓存控制模块通过最少使用策略LRU管理缓存,提高缓存命中率,减少响应延迟。通过软硬结合的管理方式。本发明能够在高负载和复杂场景下显著提升系统响应速度,降低功耗,并优化资源利用率,进一步提升系统的性能和稳定性。

技术研发人员:马铭振,唐先芝
受保护的技术使用者:鹏钛存储技术(南京)有限公司
技术研发日:
技术公布日:2024/11/11
转载请注明原文地址: https://tieba.8miu.com/read-21049.html

最新回复(0)