全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221017626 3.2 (22)申请日 2022.02.25 (71)申请人 南京工程学院 地址 211167 江苏省南京市江宁科 学园弘 景大道1号 (72)发明人 王青禄 俞翔 陈逸霖 张宇  郭展希 陆耀欢 陆媛媛 王权林  罗栋楠  (74)专利代理 机构 南京瑞弘专利商标事务所 (普通合伙) 32249 专利代理师 徐激波 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06V 10/44(2022.01) (54)发明名称 一种卷积神经网络模型设计空间McaNetX及 其优化方法 (57)摘要 本发明提供了一种卷积神经网络模型设计 空间McaNetX及其优化方法, 所述优化方法包括 以下步骤: 1)根据SAR图像的特点设计特征提取 网络的基础结构并将基础结构使用结构参数表 示; 2)利用设计空间样本分析工具分析步骤1)中 的结构参数规律; 3)整体评判设计空间样本模型 的性能, 比较性能的变化; 4)通过步骤2)中的结 构参数变化规律对设计空间集合McaNetX进行优 化。 本文提出的基于设计空间优化方法设计的网 络结构能够在轻量化模型上完成SAR图像的目标 识别任务, 且具有较强的鲁棒 性以及泛化能力。 权利要求书3页 说明书10页 附图9页 CN 114492766 A 2022.05.13 CN 114492766 A 1.一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征在于, 所述优化方法 包括以下步骤: 1)根据SAR图像的特点设计特征提取网络的基础结构并将所述基础结构使用结构参数 表示; 2)利用设计空间样本分析工具分析步骤2)中的结构参数规 律作为设计规 律; 3)整体地评判从设计空间McaNetX随机取样并训练所获得的模型组成的样本模型的性 能, 比较性能的变化; 4)通过步骤2)中的结构参数变化 规律对设计空间M caNetX进行优化。 2.如权利 要求1所述的一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征 在于, 步骤1)中基础结构为McaNet多分支跨通道注意网络, 所述McaNet多分支跨通道注意 网络包括固定结构与可变结构, 所述结构参数包括结构参数Depth、 Wi dth、 Bot_mul以及结 构参数Groups; 所述固定结构包括Stem网络茎和Head网络头, Stem网络茎负 责对输入所述McaNet多分 支跨通道注意网络的图片进行 预处理, Head网络 头由全局池化层与全连接层组成; 所述可变结构包括Body网络体, 所述Body网络体包含4个Stage网络阶段, 每个所述 Stage网络阶段由1个Block ‑A网络块与若干个Block ‑B网络块组成, 每个Stage网络阶段中 所包含的Block块数量为所述结构参数Depth 。 3.如权利 要求2所述的一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征 在于, 所述Block ‑A网络块和所述Block ‑B网络块的主干卷积均包括若干个 分支和跨通道注 意模块, 每个分支是McaNet多分支跨通道注意网络中可变结构的最小可变单位, 每个分支 均包括2个1 ×1卷积层与1个3 ×3卷积层; 其中所述3×3卷积层的输出通道数为结构参数Width, 结构参数Width的大小与神经网 络从输入图像中提取的图像特征信息量大小正相关, 且所述3 ×3卷积层采用空洞卷积, 空 洞卷积的空洞率由变量Rs控制, Block ‑A网络块和所述Block ‑B网络块中的分支数由变量Rn 控制, 若干个分支的输出 特征图由所述 跨通道注意模块加权提取 特征。 4.如权利 要求2所述的一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征 在于, 所述可变结构还包括瓶颈结构, 所述结构参数Bot_mul是控制瓶颈比率的结构参数, 所述结构参数Bot_mul通过调整部分卷积核的通道数大小, 以达到控制网络的Body部分 的 瓶颈结构的目的。 在M caNet的分组卷积机制中, 通过 结构参数Groups控制分组卷积的组数。 5.如权利 要求2所述的一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征 在于, 所述可变结构还 包括旁路卷积结构, 对于所述Block ‑A网络块, 所述旁路卷积结构为在每个Stage的Block ‑A中将当前的特 征图输入通过右侧旁路卷积的一个1 ×1卷积核转换为与结构参数Width相同的通道数, 随 后将输出 特征图左侧主干卷积输出进行矩阵元 素相加; 对于所述Bl ock‑B网络块, 所述旁路卷积结构为将输入与主干 输出进行矩阵元 素相加。 6.如权利 要求1所述的一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征 在于, 步骤2)中分析 结构参数的规 律的方法为 2.1)将样本模型按照测试集准确率进行排序, 提取排序后的样本模型总量的前10 %的 模型。 获取在样本模型中序号为j的模型的MSTAR测试集准确率accuracyj与结构参数, 以权 利 要 求 书 1/3 页 2 CN 114492766 A 2MSTAR测试集准确率accuracyj为权值利用加权平均法获取当前Stage 网络阶段的结构参数 均值, 其中加权平均法公式为: 其中Ci为最优结构参数, Cj为当前模型的结构参数, n为样本模型中模型的数量, j为样 本模型中模型的序号; 2.2)通过加权平均法求得样本模型每个Stage网络阶段的结构参数均值Ci后, 将多个所 述结构参数均值Ci以Stage网络 阶段为索引排列, 并 以升、 降、 平三种情况概括每两个最优 结构参数均值Ci之间的参数 大小关系作为设计规 律。 7.如权利 要求1所述的一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征 在于, 步骤3)中通过样本分布函数评判整个设计空间的性能, 首 先通过公式 计算样本分布函数F(e), 其中ei为某个模型的误差值, 即MSTAR数据集测试集准确率与 100%的差值, n为样本模型数量, e是人为设定的误差限值; 接着通过NEDF函数引入权值进 行归一化操作以排除模型其 他因素造成的公平性评估偏差, NEDF函数公式为 其中wi为单个样本模型的权值; 权值wi的引入过程将按需设定的复杂度区间划分为k个 相等子区间, 则落入同一个序号 为j’的子区间的mj’个模型具有相同的权值: 最后通过公式 估算样本模型的性能值, 性能值P越大是否代表性能越好, 其中P为NEDF估算的样本模 型性能值, ∈为设定的积分误差值上限, 为曲线的NEDF函数值, j ’为k个相等子区间中 每个区间的序号, m是样本模型中落入该复杂度区间的数量。 8.如权利 要求6所述的一种卷积神经网络模型设计空间McaNetX及其优化方法, 其特征 在于, 步骤4)中设计空间集合McaNetX包括McaNetXA.、 McaNetXB.、 McaNetXC.、 McaNetXD.、 McaNetXE.、 M caNetXF.其中McaNetXA.作为后续所有设计空间的父集; 对于McaNetXB: 令设计空间McaNet的每个Stage的结构参数Bot_mul相同, 在固定了每 个Stage的结构参数Bot_mul以后, M caNetXB设计空间性能与M caNetXA设计空间性能接 近; 对于McaNetXC., 在McaNetXB的基础上, 令设计空间McaNet的每个Stage的结构参数 Groups相同, 固定Groups对M caNet多分支跨 通道注意网络的性能影响较小; 对于McaNetXD., 按照步骤2)对结构参数Width进行分析以获取设计规律, 随后将设计权 利 要 求 书 2/3 页 3 CN 114492766 A 3

PDF文档 专利 一种卷积神经网络模型设计空间McaNetX及其优化方法

文档预览
中文文档 23 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共23页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种卷积神经网络模型设计空间McaNetX及其优化方法 第 1 页 专利 一种卷积神经网络模型设计空间McaNetX及其优化方法 第 2 页 专利 一种卷积神经网络模型设计空间McaNetX及其优化方法 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-03-03 12:12:00上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。