分组卷积的实现_两个序列卷积计算方法

(5) 2024-06-13 21:23

Hi,大家好,我是编程小6,很荣幸遇见你,我把这些年在开发过程中遇到的问题或想法写出来,今天说一说
分组卷积的实现_两个序列卷积计算方法,希望能够帮助你!!!。

一、分组卷积的概念(回顾)

前面讲了。这里简单回顾一下:

分组卷积就是将特征图平均分为N组,然后每组内部进行正常卷积,然后N组得到的特征图按照通道维度进行拼接,得到输出。

分组卷积的实现_两个序列卷积计算方法_https://bianchenghao6.com/blog__第1张

如图所示,左边是正常的卷积,输入通道为12,输出通道为6,卷积核大小为3*3。

右边就是分组卷积。分成了三组,然后分别做卷积。每一组输入通道有4,输出通道为2。经过分组卷积之后,得到的也是6个通道输出。

二、分组卷积的优缺点

分组卷积的优点:

1. 分组卷积的参数量是正常卷积的1/N 。N为分组数,这里为3。

2.分组卷积可以看成是正常卷积的稀疏结构,可以视为一种正则。感觉优点类似与Dropout~

3. 逐通道卷积可以进一步减少参数,在轻量化网络中很常用。

分组卷积的缺点:

数据信息只存在本组里面。通道之间的信息没有交互,存在信息的屏蔽和阻塞,不流通。

三、pytorch中使用分组卷积


今天的分享到此就结束了,感谢您的阅读,如果确实帮到您,您可以动动手指转发给其他人。

上一篇

已是最后文章

下一篇

已是最新文章

发表回复