Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 厦门理工学院朱顺痣获国家专利权

厦门理工学院朱顺痣获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉厦门理工学院申请的专利基于自适应梯度修正的并行拆分学习方法、装置及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121503591B

龙图腾网通过国家知识产权局官网在2026-04-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610039293.7,技术领域涉及:G06N3/098;该发明授权基于自适应梯度修正的并行拆分学习方法、装置及系统是由朱顺痣;李晗;洪学敏;杨淼;李林;林政;方子涵设计研发完成,并于2026-01-13向国家知识产权局提交的专利申请。

基于自适应梯度修正的并行拆分学习方法、装置及系统在说明书摘要公布了:本发明提供的基于自适应梯度修正的并行拆分学习方法、装置及系统,涉及分布式机器学习计算技术领域。本发明通过接收各客户端上传的中间层梯度,并将其划分为深、浅层梯度分量后,计算每个客户端梯度的一致性与综合排序得分,生成有序梯度队列;然后逐个引入梯度进行加权聚合、方向稳定性判断与噪声截断,以更新聚合中心;从所述有序梯度队列中选出高置信度梯度的综合排序得分,计算全局置信度以动态调整全局模型参数,输出全局参考方向下发至各客户端,以使得各客户端根据所述全局参考方向修正梯度,并将梯度修正后的残差用于下一轮本地训练优化的正则化约束。本发明能有效抑制梯度冲突、提升模型收敛速度与鲁棒性,同时降低服务器计算开销。

本发明授权基于自适应梯度修正的并行拆分学习方法、装置及系统在权利要求书中公布了:1.一种基于自适应梯度修正的并行拆分学习方法,应用于服务器端,其特征在于,包括: 接收各客户端上传的中间层梯度; 依据神经网络层级结构将所述中间层梯度划分为浅层梯度分量与深层梯度分量; 将上一轮的全局参考方向作为时序锚点,对每个客户端的深层梯度分量计算跨轮一致性与同轮一致性;其中,所述跨轮一致性为当前梯度与上一轮全局参考方向的深层分量之间的余弦相似度;所述同轮一致性为当前梯度与本轮其他客户端深层梯度分量的平均余弦相似度; 然后设置跨轮一致性阈值与同轮一致性阈值,基于计算出的余弦相似度与预设的跨轮一致性阈值、同轮一致性阈值对深层梯度分量进行筛选; 根据通过筛选的深层梯度分量,结合浅层和深层一致性计算当前梯度的综合排序得分; 基于计算出的综合排序得分,对所有客户端梯度进行从高到低排序,生成有序梯度队列; 从所述有序梯度队列中逐个引入梯度,计算其聚合权重; 基于计算出的聚合权重,迭代更新聚合中心; 基于加权聚合更新后的聚合中心,计算相邻两次聚合中心的方向变化率,以判定稳定性; 当判定到聚合方向已稳定,则触发早停机制进行噪声截断,即:终止聚合后续梯度引入,丢弃队列未引入的梯度;否则继续引入下一个梯度,直至遍历完所述有序梯度队列中的所有梯度或触发早停机制,得到稳定更新后的聚合中心; 基于稳定更新后的聚合中心,从所述有序梯度队列中选出前K个梯度的综合排序得分,通过均值计算全局置信度; 基于所述全局置信度建立置信度与学习率的映射关系,以自适应调整服务器端的全局学习率; 基于所述全局学习率更新服务器端的全局模型参数; 对本轮聚合梯度进行L2归一化得到全局参考方向,输出全局参考方向下发至各客户端; 客户端接收服务器端下发的所述全局参考方向与全局模型参数; 计算客户端本地梯度与所述全局参考方向的内积,以判断本地梯度与全局参考方向是否冲突; 当本地梯度更新方向与全局参考方向发生冲突时,各客户端根据所述全局参考方向修正梯度,以保证修正后梯度与全局参考方向一致; 客户端将修正后的梯度上传至服务器端参与聚合; 客户端计算本轮梯度的修正残差向量及残差强度;所述残差强度为修正残差向量的L2范数; 基于所述残差强度,计算下一轮训练的动态正则化系数,以在训练时将动态正则项叠加到任务损失中。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人厦门理工学院,其通讯地址为:361024 福建省厦门市集美区理工路600号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。