云袭网络技术河北有限公司段海卿获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉云袭网络技术河北有限公司申请的专利一种GPU显存私有化池动态扩缩容控制方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121277672B 。
龙图腾网通过国家知识产权局官网在2026-04-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511167213.8,技术领域涉及:G06F9/50;该发明授权一种GPU显存私有化池动态扩缩容控制方法及装置是由段海卿;孟海彬;丁士鹏设计研发完成,并于2025-08-20向国家知识产权局提交的专利申请。
本一种GPU显存私有化池动态扩缩容控制方法及装置在说明书摘要公布了:本申请提供了一种基于深度强化学习的GPU显存私有化池动态扩缩容控制方法、装置、设备及存储介质,涉及计算机系统资源管理与深度强化学习应用的技术领域,通过构建私有显存池,并利用预训练的深度强化学习模型对其进行动态扩缩容控制。该方法将GPU利用率、显存使用率、显存碎片率、显存池大小及分配速率作为状态空间,输出保持、扩展或收缩的连续动作决策,并通过CUDA或PyTorch接口调整显存池容量。训练过程中采用多维度奖励函数优化策略模型,包括对GPU利用率偏差、显存碎片率、超限惩罚、动作波动及执行成功的综合评估。该方案提升了GPU显存资源的利用效率,减少了显存浪费与系统波动,增强了显存管理的自动化与适应性。
本发明授权一种GPU显存私有化池动态扩缩容控制方法及装置在权利要求书中公布了:1.一种GPU显存私有化池动态扩缩容控制方法,其特征在于,通过GPU显存管理接口构建显存私有化池,所述显存私有化池为避免不同进程共享GPU而针对每个进程独立创建和管理的显存池,并通过深度强化学习模型对所述显存私有化池进行自动化扩缩容控制;所述控制方法包括: 获取GPU当前运行状态信息,所述运行状态信息包括GPU利用率、显存使用率、显存碎片率、显存池大小以及显存分配速率; 将所述运行状态信息输入至预训练后的深度强化学习策略模型中,所述策略模型基于PPO算法构建,强化学习环境定义了状态空间和动作空间; 由所述策略模型在连续动作空间中输出扩缩容动作决策,所述扩缩容动作决策包括保持、扩展或收缩所述显存私有化池大小以及对应的调整比例; 基于所述扩缩容动作决策进行GPU显存私有化池动态扩缩容; 所述深度强化学习模型的预训练过程包括构建强化学习环境,所述强化学习环境包括环境的动作空间和环境的状态空间; 所述环境的动作空间包括扩缩容类型和调整比例,其中扩缩容类型包括保持、扩展或收缩,调整比例的取值范围为0.5至2.0;所述环境的状态空间为包含五个维度的连续状态向量,分别表示GPU利用率、显存使用率、显存碎片率、当前显存池大小以及显存分配速率; 在每一步训练过程中,执行动作后更新显存池大小,并通过CUDA或PyTorch接口设置显存池实际容量,获取更新后的状态信息,基于多维度奖励函数计算当前动作的奖励值,所述奖励函数包括对GPU利用率的偏差惩罚、显存碎片率的反向奖励、显存超限惩罚、动作波动惩罚以及执行成功奖励。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人云袭网络技术河北有限公司,其通讯地址为:050022 河北省石家庄市裕华区怀特商业广场D座5层5002室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励