昆明理工大学毛存礼获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉昆明理工大学申请的专利基于高效微调的联邦多语言机器翻译方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121615666B 。
龙图腾网通过国家知识产权局官网在2026-04-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610153328.X,技术领域涉及:G06F40/58;该发明授权基于高效微调的联邦多语言机器翻译方法是由毛存礼;高宇韩;余正涛;高盛祥;张勇丙;栾易非设计研发完成,并于2026-02-03向国家知识产权局提交的专利申请。
本基于高效微调的联邦多语言机器翻译方法在说明书摘要公布了:本发明涉及基于高效微调的联邦多语言机器翻译方法,属于自然语言处理技术领域。针对基于联邦学习的多语言机器翻译方法中存在的通信成本高和训练时间长的问题,本发明提出了一种基于高效微调的联邦多语言机器翻译方法,包括:客户端的多语言翻译模型高效微调;微调后多语言翻译模型进行梯度相似性聚类;基于聚类的多语言翻译模型进行平均聚合;部署基于高效微调的联邦多语言机器翻译装置。本发明在保持翻译性能的同时,极大降低了计算与通信开销,适用于多语言场景下的分布式翻译任务。
本发明授权基于高效微调的联邦多语言机器翻译方法在权利要求书中公布了:1.基于高效微调的联邦多语言机器翻译方法,其特征在于,所述方法包括: Step1、客户端的多语言翻译模型高效微调:客户端在预训练的多语言翻译模型的编码器和解码器中插入低秩适配器模块,冻结主干网络参数,仅对低秩矩阵进行训练;每轮本地训练后,客户端仅上传微调参数至服务器; Step2、微调后多语言翻译模型进行梯度相似性聚类:在服务器端通过客户端梯度相似性计算,动态地将具有语言相似特征的客户端分配到聚合中心,从而划分为若干簇; Step3、基于聚类的多语言翻译模型进行平均聚合:基于聚类的多语言翻译模型平均聚合机制平衡高低资源语言对多语言翻译模型的贡献; Step4、部署基于高效微调的联邦多语言机器翻译装置:将Step3中平均聚合后的多语言翻译模型封装为API接口,部署于服务器,支持多客户端并发请求,用于实现低延迟、高并发的多语言翻译服务; 所述Step3的具体步骤包括: 根据划分结果,进而在多语言翻译模型聚合阶段在服务器端实施分层聚合处理; 其中,在前馈网络层FFN,利用多语言翻译模型平均聚合机制对同簇语言的FFN参数进行无偏平均聚合: ;其中,表示通过基于梯度相似性的迭代聚类策略划分出的第k个簇,每个簇包含一组具有相似语言特征或资源分布的客户端;表示第k个簇中客户端的数量;表示全局前馈网络层的参数;表示第q个客户端在前馈网络层上的参数更新量; 而对于注意力层参数,则执行跨簇全局平均聚合: ;其中,表示所有聚类簇的联合集合;表示全局注意力层的参数;表示在注意力层上的参数更新量; 最后将不同层的聚合结果整合为多语言翻译模型参数: 。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人昆明理工大学,其通讯地址为:650500 云南省昆明市呈贡区景明南路727号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励