全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111666557.5 (22)申请日 2021.12.3 0 (71)申请人 浪潮电子信息产业股份有限公司 地址 250101 山东省济南市高新区浪潮路 1036号 (72)发明人 尹文枫 董刚 赵雅倩 梁玲燕  晁银银  (74)专利代理 机构 北京集佳知识产权代理有限 公司 11227 专利代理师 郄晨芳 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06T 9/00(2006.01) (54)发明名称 一种图像处理方法、 系统、 设备及可读存储 介质 (57)摘要 本申请公开了一种图像处理方法, 包括: 依 据固有结构化稀疏度对预设长短时记忆网络模 型的权值矩阵进行分组, 得到对应的权值组; 分 别计算每个权值组与其他权值组的皮尔森相关 系数, 将皮尔森相关系数作为权值组被采样到的 采样概率, 并依据预设压缩率通过采样概率随机 选择对应的权值组进行压缩, 得到压缩后的长短 时记忆网络模 型; 利用压缩后的长短时记忆网络 模型对输入的图像进行图像处理。 本申请能够根 据用户指定的压缩比进行神经元剪枝, 不依赖训 练直接通过最小化权值矩阵输出的重构误差, 获 得压缩后网络权值矩阵的新权值, 进而实现了循 环神经网络的压缩本申请同时还提供了一种图 像处理系统、 设备及可读存储介质, 具有上述有 益效果。 权利要求书3页 说明书11页 附图3页 CN 114444657 A 2022.05.06 CN 114444657 A 1.一种图像处 理方法, 其特 征在于, 包括: 依据固有结构化稀疏度对所述预设长短时记忆网络模型的权值矩阵进行分组, 得到对 应的权值组; 分别计算每个权值组与其他权值组 的皮尔森相关系数, 将所述皮尔森相关系数作为所 述权值组被采样到的采样概率, 并依据预设压缩率通过所述采样概率随机选择对应的权值 组进行压缩, 得到 压缩后的长短时记 忆网络模型; 利用所述压缩后的长短时记 忆网络模型对输入的图像进行图像处 理。 2.根据权利要求1所述的方法, 其特征在于, 在利用所述压缩后的长短时记忆网络模型 对输入的图像进行图像处 理之前, 还 包括: 依据所述权值组计算所述预设长短时记 忆网络模型的权值矩阵的输出 特征图; 依据所述权值组计算所述压缩后的长短时记忆网络模型的权值矩阵的压缩输出特征 图; 通过最小二乘法依据所述输出特征图及所述压缩输出特征图确定所述压缩后的长短 时记忆网络模型的最优权值矩阵; 利用所述 最优权值矩阵对所述压缩后的长短时记 忆网络模型进行参数优化。 3.根据权利要求2所述的方法, 其特征在于, 依据 所述权值组计算所述预设长短时记忆 网络模型的权值矩阵的输出 特征图, 包括: 计算所述预设长短时记忆网络模型的第l层在时间步t的遗忘门、 输入门和输出门的激 活函数的输入值以及在上一时间步t ‑1的输出值 并确定对应的输出权值矩阵 和输入权值矩阵 根据公式 和 计算所述预设长短时记忆网 络模型的权值矩阵的输出 特征图; 其 中 , Wh l为 所 述 预 设 长 短 时 记 忆 网 络 模 型的 第 l 层的 输 出 权 值 矩阵 , 分别为所述预设长短时记忆网络模型的遗忘门、 输入门、 更新门和输出 门的输出权值, Wx l为所述预设长短时记忆网络模型的第l层的输入权值矩阵 , 分别为所述预设长短时记忆网络模型的遗忘门、 输入门、 更新门和输出门 的输入权值, FMhl为所述预设长短时记忆网络模型的第l层的输出权值矩阵的输出特征图, yfh、 yih、 yuh、 yoh分别为所述预设长短时记忆网络模型的遗忘门、 输入门、 更新门和输出门的 输出权值矩阵的输出特征图, 为所述预设长短时记忆网络模型在上一时间步t ‑1的输 出值, FMxl为所述预设长短时记忆网络模 型的第l层的输入权值矩阵的输出特征图, yfx、 yix、 yux、 yox分别为所述预设长短时记忆网络模型的遗忘 门、 输入门、 更新门和输出门的输入权权 利 要 求 书 1/3 页 2 CN 114444657 A 2值矩阵的输出 特征图, 为所述预设长短时记 忆网络模型的第l层 在时间步t的输入值。 4.根据权利要求3所述的方法, 其特征在于, 依据 所述权值组计算所述压缩后的长短时 记忆网络模型的权值矩阵的压缩输出 特征图, 包括: 获取所述预设长短时记忆网络模型的第l层在上一时间步t ‑1的输出值 并将所述 输出值 作为所述压缩后的长短时记 忆网络模型的输入值; 将 作为所述压缩后的长短时记忆网络模型 的输出权值矩阵的压缩输出特征 图, 并将 作为所述压缩后的长短时记忆网络模型的输入权值矩阵的压缩输出特征 图; 其中, 为Whl压缩后的输出权值矩阵, 为 的转置矩阵, 为Wxl压缩后的 输入权值矩阵, 为 的转置矩阵, 为所述预设长短时记忆网络模型的第l层在上 一时间步t ‑1的输出值, T为输入数据x的时间步总数。 5.根据权利要求4所述的方法, 其特征在于, 通过最小二乘法依据 所述输出特征图及所 述压缩输出 特征图确定所述压缩后的长短时记 忆网络模型的最优权值矩阵, 包括: 将所述预设长短时记 忆网络模型中被压缩的权值组的编号记录为 集合θ; 依据所述集合θ提取所述预设长短时记忆网络模型在上一时间步t ‑1的输出权值矩阵 的输出特征图局部数据 和输入权值矩阵的输出 特征图局部数据 根据公式 确定所述压缩后的长短时记忆网络模型的第l层 的最优输出权值矩阵 根据公式 确定所述压缩后的长短时记忆网络模型的第l层的 最优输入权值矩阵 其中, 为F范数, 为输出权值矩阵的输出特征图局部 数据, 为输入权值矩 阵的输出 特征图局部数据。 6.根据权利要求5所述的方法, 其特 征在于, 还 包括: 依据所述集合θ提取所述预设长短时记忆网络模型的第l+1层的输入权值矩阵Wx(l+1)对 应行的权值 根据公式 确定所述压缩后的长短时记忆网络模型的第l+1 层的最优输入权值矩阵 其中, FMx(l+1)为所述预设长短时记忆网络模型的第l+1层的输入权值矩阵的输出特征 图, Wx(l+1)为所述预设长短时记忆网络模型的第l+1层的输入权值矩阵, 为Wx(l+1)压缩权 利 要 求 书 2/3 页 3 CN 114444657 A 3

.PDF文档 专利 一种图像处理方法、系统、设备及可读存储介质

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种图像处理方法、系统、设备及可读存储介质 第 1 页 专利 一种图像处理方法、系统、设备及可读存储介质 第 2 页 专利 一种图像处理方法、系统、设备及可读存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 21:46:52上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。