在视觉任务上大幅超越ReLU的新型**函数
本文转载自旷视研究院。
本文介绍旷视研究院的一个新成果，通过在**函数领域进行创新，提出一种在视觉任务上大幅超越ReLU的新型**函数Funnel activation（FReLU），简单又高效。
论文题目：Funnel Activation for Visual Recognition
论文链接：https://arxiv.org/abs/2007.11824
MegEngine开源：https://github.com/megvii-model/FunnelAct
关键词：funnel **函数、视觉识别、CNN
具体而言，旷视研究院通过增加可忽略的空间条件开销将ReLU和PReLU扩展为2D**函数。ReLU和PReLU分别表示为y = max（x，0）和y = max（x，px）的形式，而FReLU的形式为y = max（x，T（x）)，其中T（·）是二维空间条件（2D spatial condition）。
此外，空间条件以简单的方式实现了像素级建模能力，并通过常规卷积捕获了复杂的视觉layouts。最后，对ImageNet数据集、COCO数据集检测任务和语义分割任务进行了实验，展示了FReLU**函数在视觉识别任务中的巨大改进和鲁棒性。
备注：CV
计算机视觉交流群
CV等最新资讯，若已为CV君其他账号好友请直接私信。
我爱计算机视觉
微信号:aicvml
QQ群:805388940
微博知乎:@我爱计算机视觉
网站:www.52cv.net
点点【在看】分享技术成果