深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

I 引言

To keep on track of state-of-the-art (SOTA) on ImageNet Classification and new CNN architectures

所有主流目标检测深度神经网络的Tensorflow、pytorch、caffe实现:

网址

部分截图:

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

 

 

II 72页PPT介绍深度神经网络完整架构(含 PyTorch 实现代码片段)

在线地址:

https://docs.google.com/presentation/d/1MFhet5q-SIPqc_54CXWiBvlT9OdSi6P8kpkm6IxuyEM/edit#slide=id.g5540a1077d_0_55

这份 PPT 的主要揭示了神经网络不同复杂结构对不同任务的适用性。并且把这些的理论映射到具体的 PyTorch 代码上。主要包括三个部分:

  • Basic Architectures
    • Fully Connected Layers
    • Recurrent Layers

    • Convolutional Layers

  • Advanced Architectures

    • Hybrid CNN/RNN = QRNN
    • Auto-Encoders

    • Deep Classifiers/Deep Regressors

    • Residual Connections/Skip Connections, U-Net and SEGAN

    • GANs (DCGAN)

  • Conclusions

下面分别来看一下。

1. Basic Architectures

第一部分主要介绍神经网络三种最基本的类型:全连接层、循环层、卷积层。

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

2. Advanced Architectures

第二部分主要介绍的是一些高级神经网络结构,包括:QRNN、自动编码器、深层分类器/深层回归器、U-Net、GANs 等。

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

 

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)

3. Conclusions

第三部分是全文的总结。

深度神经网络完整架构介绍(含 PyTorch 实现代码片段)