(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211453287.4 (22)申请日 2022.11.21 (71)申请人 深圳开鸿数字产业发展 有限公司 地址 518000 广东省深圳市福田区福保街 道福保社区桃花路与 槟榔道交汇处西 北深九科技创业园5号楼 201C (72)发明人 黄贤锁　 (74)专利代理 机构 深圳市力道知识产权代理事 务所(普通 合伙) 44507 专利代理师 韦永吉 (51)Int.Cl. G06N 3/08(2006.01) G06N 3/04(2006.01) (54)发明名称 网络模型的滤波剪枝方法、 系统、 电子设备 及存储介质 (57)摘要 本申请涉及滤波剪枝技术领域， 尤其涉及一 种网络模型的滤波剪枝方法、 系统、 电子设备及 存储介质。 该网络模型的滤波剪枝方法包括以下 步骤： 根据默认的剪枝率， 对滤波器进行剪枝， 并 分别基于 范数标准对所述滤波器第一次置零、 基 于几何中心对 所述滤波器第一次置零； 获取各个 第一次置零后的滤波器的范数值， 按照预设顺 序， 并基于预设的剪枝率， 将所述排序后的滤波 器第二次置零； 对第二次置零后的滤波器进行剪 枝； 本申请提供了基于范数 ‑几何中心混合标准 的网络模型的滤波剪枝 方法， 能够起到模型压缩 与加速计算的效果， 从而降低模 型的计算成本和 存储成本。 权利要求书2页 说明书10页 附图5页 CN 115496210 A 2022.12.20 CN 115496210 A 1.一种网络模型的滤波剪枝方法， 其特 征在于， 所述方法包括： 获取网络模型的初始剪枝率， 根据所述初始剪枝率， 对网络模型的卷积层上的滤波器 进行剪枝； 基于范数标准对剪枝后的所述滤波器第 一次置零， 以及基于几何中心标准对剪枝后的 所述滤波器第一次置零； 获取各个第一次置零后的所述滤波器的范数值， 根据所述范数值的大小， 按照预设顺 序对第一次置零后的所述滤波器进行排序； 根据预设的剪枝率， 通过范数标准和/或几何中心标准的方式将排序后的所述滤波器 第二次置零， 以及对第二次置零后的所述滤波器进行剪枝。 2.根据权利要求1所述的网络模型的滤波剪枝方法， 其特征在于， 所述预设的剪枝率包 括第一剪枝率， 通过 范数标准将排序后的所述滤波器第二次置零， 包括： 在剪枝当前的卷积层时， 获取 范数值小于第一预设值的滤波器； 按照预设顺序， 从范数值小于第一预设值的滤波器中获取数量为前第一数量的滤波 器， 所述第一数量由所述第一剪枝率与下一层卷积层的输入通道数的乘积； 将与数量 为第一数量的滤波器对应的码本位置 置零， 得到第一矩阵； 将第一矩阵与预设的第一模型参数矩阵点乘， 实现范 数标准的滤波器第二次置零。 3.根据权利要求2所述的网络模型的滤波剪枝方法， 其特征在于， 所述对第 二次置零后 的所述滤波器进行剪枝， 包括： 基于所述第一剪枝率， 对范数值小于第一预设阈值的第一数量的滤波器、 与每个滤波 器对应的特 征图、 下一层卷积层中的卷积核 进行修剪 。 4.根据权利要求1所述的网络模型的滤波剪枝方法， 其特征在于， 所述预设的剪枝率包 括第二剪枝率， 通过几何中心标准将排序后的所述滤波器第二次置零， 包括： 在剪枝当前的卷积层时， 计算出每 个滤波器与其 他滤波器的距离之和； 获取距离之和小于第二预设阈值的滤波器； 按照预设顺序， 从距离之和小于第 二预设阈值的滤波器中获取数量为前第 二数量的滤 波器， 所述第二数量由所述第二剪枝率与下一层卷积层的输入通道数的乘积； 将与所述第二数量的滤波器对应的码本位置 置零， 得到第二矩阵； 将所述第二矩阵， 与预设的第二模型参数矩阵点乘， 以实现几何中心标准的滤波器第 二次置零。 5.根据权利要求4所述的网络模型的滤波剪枝方法， 其特征在于， 所述对第 二次置零后 的所述滤波器进行剪枝， 包括： 获取符合预设条件的几何中心位置的滤波器； 根据符合预设条件的几何中心位置的滤波器， 计算出待删除的滤波器， 实现对滤波器 剪枝。 6.根据权利要求4所述的网络模型的滤波剪枝方法， 其特征在于， 所述对第 二次置零后 的所述滤波器进行剪枝， 包括： 通过如下公式获取待删除的滤波器， 以实现对滤波器剪枝；权　利　要　求　书 1/2 页 2 CN 115496210 A 2其中， Fi,j为当前卷积层上的滤波器， Fi,j*为待删除的滤波器， ||  ||2为2范数， ni+1为下 一层卷积层， i为当前卷积层的层数， j为argmin求出的最小值满足的j， j ’为当前卷积层的 第j’个滤波器。 7.根据权利要求1 ‑6任一项所述的网络模型的滤波剪枝方法， 其特征在于， 所述预设的 剪枝率为第一剪枝率与第二剪枝率之和， 所述方法还 包括： 当需要进行范数标准的剪枝时， 将所述第二剪枝率调整为第二预设阈值； 当需要进行几何中心标准的剪枝时， 将所述第一剪枝率调整为第二预设阈值； 当需要混合使用范数标准的剪枝、 几何中心标准的剪枝时， 所述第一剪枝率、 所述第一 剪枝率均不 为第二预设阈值。 8.一种电子设备， 其特征在于， 所述电子设备包括处理器、 存储器、 以及存储在所述存 储器上并可被所述处理器执行 的计算机程序， 其中所述计算机程序被所述处理器执行时， 实现如权利要求1至7中任一项所述的网络模型的滤波剪枝方法的步骤。 9.一种滤波剪枝系统， 其特征在于， 所述系统包括一个或多个计算机和存储指令的一 个或多个存储设备， 当所述指令由所述一个或多个计算机执行时， 使得所述一个或多个计 算机执行所述权利要求1至7中任一项所述的网络模型的滤波剪枝方法的步骤。 10.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质上存储有计算机 程序， 其中所述计算机程序被处理器执行时， 实现如权利要求1至7中任一项所述的网络模 型的滤波剪枝方法的步骤。权　利　要　求　书 2/2 页 3 CN 115496210 A 3