WeightNet: Revisiting the Design Space of weight networks

URL

https://arxiv.org/pdf/2007.11823.pdf

TL;DR

• 一种动态产生 Conv 权重的方法，统一了 SENet 和 CondConv 等动态卷积算法

Dataset/Algorithm/Model/Experiment Detail

结构

• 使用 GAP + FC + Sigmoid + Group_FC + Reshape 把 $(N, C_{in}, H, W)$ 的输入 feature map 变成 $(C_{out}, C_{in}, K, K)$ 的 kernel，再与 feature map 做 Conv

megengine 实现

WeightNet

Thoughts

• 使用 Group_FC 产生 Weight 是 make sense 的，毕竟下一层 Conv 会做通道间融合
• 比 CondConv 和 SENet 在结构上要激进不少，原理上是把 CondConv 和 SENet 对 Conv Weight 的初始化往前提到了 Group FC 中，去掉了人为设计