天津大学尚凡华获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉天津大学申请的专利一种基于神经网络结构搜索的混合精度量化感知训练方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116721305B 。
龙图腾网通过国家知识产权局官网在2026-05-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310377705.4,技术领域涉及:G06V10/774;该发明授权一种基于神经网络结构搜索的混合精度量化感知训练方法是由尚凡华;陈飞;刘红英;刘园园;任岩;万亮设计研发完成,并于2023-04-11向国家知识产权局提交的专利申请。
本一种基于神经网络结构搜索的混合精度量化感知训练方法在说明书摘要公布了:一种基于神经网络结构搜索的混合精度量化感知训练方法,包括:输入图像原始数据集,划分训练数据集和验证数据集;获取超网关于训练集的梯度;更新超网权值;获取超网关于验证集的梯度;更新超网的比特重要性参数;保存当前混合精度配置;完成所设定的迭代次数或当前的混合精度配置的复杂度低于期望复杂度;获取不同约束下,目标网络的混合精度配置集合;从模型损失函数最小值区域的平坦性出发,对不同约束下的混合精度网络进行量化感知训练;本发明利用参数共享和卷积算子的计算等价性,以低成本的计算代价搜索在约束条件下模型的最优混合精度配置;通过同时最小化目标损失值和量化损失锐度,进一步提升了低比特量化模型或含有低比特量化层的混合精度模型的泛化能力。
本发明授权一种基于神经网络结构搜索的混合精度量化感知训练方法在权利要求书中公布了:1.一种基于神经网络结构搜索的混合精度量化感知训练方法,其特征在于:具体步骤如下: 1处理图像原始数据集,将其划分为训练数据集Dtrain和验证数据集Dval; 2构建超网,超网中每个可量化层中采用复合卷积模块,每个复合卷积模块包含多个量化分支,不同分支均拥有独立的可学习量化步长,所有分支共享同一份全精度权值张量,并在前向传播时利用卷积算子的计算等价性,将多个量化分支的输出聚合后仅执行一次卷积运算; 从训练数据集Dtrain中采样一批数据样本,输入超网进行前向推理,并得出当前的目标损失值;根据反向传播得出超网中权值、权值比特重要性参数以及激活值比特重要性参数关于目标损失值的梯度; 3更新超网权值:使用梯度下降法更新当前超网模型的权值; 4获取超网关于验证集的梯度:从验证数据集Dval中采样一批数据样本,将其输入超网进行前向推理,并得出当前的目标损失值;根据反向传播得出超网中比特重要性参数关于目标损失值的梯度; 5更新超网的比特重要性参数:使用梯度下降法更新超网的权值比特重要性参数和激活值比特重要性参数; 6保存当前混合精度配置:从超网的权值比特重要性参数以及激活值比特重要性参数中,取概率最大项所对应的量化比特作为当前目标网络的混合精度配置,并且将混合精度配置以文件形式进行保存; 7重复步骤2~步骤5,直到完成所设定的迭代次数或当前的混合精度配置的复杂度低于期望复杂度; 8通过读取在步骤6中保存的混合精度配置文件内容,获取不同约束下,目标网络的混合精度配置集合; 9从模型损失函数最小值区域的平坦性出发,对不同约束下的混合精度网络进行量化感知训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人天津大学,其通讯地址为:300072 天津市南开区卫津路92号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励