【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

1 参考资料

本笔记是结合博士哥哥的笔记和文献的思考【https://zhuyulab.blog.****.net/article/details/89359860】

2 INTRODUCTION

数据驱动的方式有缺点,使用模型驱动的DL方法。本文提出了一种模型驱动的DL结构,称为ComNet,以取代传统的或FC-DNN的OFDM接收机(参考论文Power of deep learning for channel estimation and signal detection in OFDM systems),它将DL与无线通信领域的expert knowledge相结合。所提出的ComNet 接收机使用DL来促进现有的接收机模型,如信道估计(CE)模块和信号检测(SD)模块,而不是用一个完整的DL替换整个接收机,然后集成通信信息。说白了就是分别用神经网络实现两个接收机的两个模块:信道估计和信号检测。
它的优势(参考大佬笔记)

  • 通过传统通信中累积的大量前人工作来初始化网络, 可以极大地提升训练效率,减小数据依赖, 降低整体复杂度
  • 使得每个子网络有清晰的物理意义,从而更容易地进行调整,获得进一步增益

3 COMNET

ComNet是包括两个部分的子网络,一个信道估计(CE)一个是信号检测(SD)。以下内容将介绍网络权值的初始化、代价函数和优化器的选择以及超参数的配置。

A ComNet Architecture

【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

xD:源信号
xp:输入的导频
yD:接收到的信号
yp:接收到的导频
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver
图2是CE的子网,它的输入是最小平方(LS)初始化,根据公式
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

得到。然后使用LS-RefineNet生成精确的CE输入,其中LS-RefineNet是一层DNN。它的输入是128维实值信号向量,由hLS的实部和虚部组成。下一层的神经元数目是128个,这些神经元没有**函数,也就是说,它是一个线性信道估计器。
在SD子网中,它的输入由公式得到
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

xzf用于预测8个连续子载波上的8个符号的二进制数据。对于64个子载波的一个OFDM系统,需要8个独立的SD子网。反正这个子网就是为了得到更精确的传送的数据。对于子网中ZF-RefineNet网络本文提出了两种

  • FC-SD:包括两层FC-DNN,每层有120和48个神经元。输入是xZF的实部和虚部的连接。隐藏层的**函数使用ReLU,而输出层的**函数是sigmoid函数。
  • Bi-directional long short-term memory (AiLSTM)SD:包括一个三层64-time steps 的BiLSTM网络,每层有20个、10个和6个隐藏单元,然后是一个具有48个神经元的单层FC-DNN,如图3所示。考虑到ZF SD的性能下降,BiLSTM SD 结合了yD和h的输入。那个输出层的**函数是sigmoid函数。
    【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

B Training Specification

为了加快训练过程,考虑了网络权值的初始化。CE子网由实值线性最小均方误差(LMMSE)CE权值矩阵̃WLMMSE初始化.公式如下
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

对于这两个子网,我们采用了[4]中的均方误差代价函数和自适应矩估计(Adam)优化器[12]。这两个子网按TensorFlow顺序训练,其中CE子网先训练2000个epoch,然后固定,然后再训练5000个epochs训练SD子网。
每个epoch使用50个小批量,总批量为1000。将学习速率设为循环函数,实现初始值为0.001的训练周期,子网每1000个周期减少10倍,SD子网每2000个周期减少5倍。

4 NUMERICAL RESULTS

OFDM系统包含64个子载波和16个CP样本,每个帧包含一个导频OFDM符号和一个数据OFDM符号。64qam的映射采用长期演进(LTE)标准。
以下是作者ComNet的一些算法或模型选择:

  • ComNet-BiLSTM: 建议ComNet架构,带BiLSTM-Detection的 ZF_RefineNet
  • ComNet-FC: 建议采用FC检测的 ComNet架构的ZF_RefineNet
  • FC-DNN: 修改输出层神经元数量由16个变为48个,使其适合于64-QAM,因为FC-DNN中用的是4-QAM,所以它原本神经元个数是16个。
  • LMMSE-MMSE: 传统LMMSE和最小均方误差(MMSE)SD
  • Y/H_true: yD与真实频域信道h的商,可以实现线性情况下的最大似然解。假定信道已经的最大似然解,可以说是传统算法的最优了。

A CE SubNet

ComNet接收机相对于FC-DNN的一个优点是可以获得准确的信道状态信息(CSI),这对于下行链路传输中的信道分析和CSI反馈非常有用。图4显示了通信网CE子网和LMMSE,以及ComNet与传统方法在线性下和有CP(循环前缀)去线性下的MSE的mse性能对比。
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

实验表明:与传统的LMMSE-CE相比,CE子网可以更好地校正没有CP带来的影响。

B SD SubNet

(1)线性情况下:ComNet比FC-DNN误码率低
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

(2)ComNet没有CP的优势:传统的ofdms系统中引入CP来抑制多径信道引起的码间干扰(ISI),虽然降低了传输效率,但是增加了能量消耗。ComNet没有CP,效果还好。如图6(a)所示。这种能力得益于BiLSTM递归神经网络,该网络旨在利用序列数据的ISI的内在关系。
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

(3)Clipping(削波):传统的OFDM必须要利用Clipping去克服峰值平均功率比(PAPR)。它应用于时域传输信号,但同时会导致信号的非线性失真。如图6(b)所示,ComNet BiLSTM的误码率最低。

C Performance Analysis

(1)信噪比下的鲁棒性:上述结果是在SNR=40 dBs下通过训练ComNet接收器获得。信噪比失配与匹配结果的差异表明,当信噪比=5dB时,信噪比匹配导致的MSE损失约为3dB。然而,信噪比失配会导致轻微的误码率性能损失,这表明通信网接收机在恢复二进制符号时对信噪比失配具有鲁棒性。
(2)复杂度:见表,ComNet就是最棒的。
【文献学习】ComNet: Combination of Deep Learning andExpert Knowledge in OFDM Receiver

5 疑问

  • LMMSE、MMSE的具体用途
  • ComNet的网络结构实现是什么样子的?渴望代码。
  • FC-DNN用了4QAM的调制方式,ComNet用了64-QAM的调制方式,既然要对比为什么不使用同一种调制方式对比?为什么不实用其他调制方式实验,实验呢效果怎么样?
  • OFDM中线性和非线性是什么意思
  • expert Knowledge是什么意思

6 可深入研究或创新的点

  1. 分析比较RNN 网络相对于CNN网络在信号处理中的优势。神经网络用哪种比较合适信号处理,为什么适合,写一个分析报告出来。
  2. ComNet中每个子网共同使用一个相同的损失函数。尝试每个子网都有自己的损失函数。看性能有没有提升。
  3. 比较ComNet和DCNN的区别。在这两个系统上进行结合或者优化。
  4. FC-DNN用了4QAM的调制方式,ComNet用了64-QAM的调制方式。没有明白既然要对比,不使用同一种调制方式,尝试用其他的调制方式进行对比。