博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
CSPNet论文笔记
阅读量:4154 次
发布时间:2019-05-25

本文共 569 字,大约阅读时间需要 1 分钟。

论文地址:

开源代码:
作者提出Cross Stage Partial Network (CSPNet)来降低网络架构所需的算力。神经网络的计算量大很大程度上是由于在网络优化过程中出现的重复梯度信息导致的。

作者提出的网络架构可以在降低约20%计算量的情况下维持和原网络架构相同甚至高于原网络架构的准确度。CSPNet这种架构思想可以很方便的应用到像denseNet、ResNet、ResNeXt等结构的CNN网络上。

设计CSPNet的目的是在减少计算量的前提下实现丰富的梯度组合。它的核心思想是将某一阶段的(stage)输入特征图分成两部分,然后经过不同的处理后再合并起来。

CSPNet可以解决以下三个问题:

  • 增强CNN的学习能力;
  • 移除计算瓶颈,让整个模型的计算量分布更均匀,例如将每个stage的输入特征图分成两部分,只让其中一部分进入到dense layer,就能降低该stage的峰值计算量;
  • 降低内存占用,在特征金字塔生成过程中,为了降低内存占用,作者采用跨通道池化技术(cross-channel pooling)来压缩特征图数量。

这篇文章还总结了目前SOTA的网络架构特点。DenseNet通过大量复用特征图来大大降低参数数量和计算量,它将某层之前的所有层的输出作为后续层的输入,这将最大化cardinality数量

转载地址:http://txrti.baihongyu.com/

你可能感兴趣的文章
第十一章 - 直接内存
查看>>
JDBC核心技术 - 上篇
查看>>
一篇搞懂Java反射机制
查看>>
Single Number II --出现一次的数(重)
查看>>
对话周鸿袆:从程序员创业谈起
查看>>
Mysql中下划线问题
查看>>
Xcode 11 报错,提示libstdc++.6 缺失,解决方案
查看>>
idea的安装以及简单使用
查看>>
Windows mysql 安装
查看>>
python循环语句与C语言的区别
查看>>
vue项目打包后无法运行报错空白页面
查看>>
Vue 解决部署到服务器后或者build之后Element UI图标不显示问题(404错误)
查看>>
element-ui全局自定义主题
查看>>
facebook库runtime.js
查看>>
openlayers安装引用
查看>>
js报错显示subString/subStr is not a function
查看>>
高德地图js API实现鼠标悬浮于点标记时弹出信息窗体显示详情,点击点标记放大地图操作
查看>>
初始化VUE项目报错
查看>>
vue项目使用安装sass
查看>>
在osg场景中使用GLSL语言——一个例子
查看>>