An Introduction on Deep Learning for the Physical Layer

代码实现：https://github.com/shengjian3476077/DLforPhy

一、文章的主要工作

1、将通信系统设计视为端到端的重构任务，使用自编码器（autoencoder）实现端到端的通信系统，并在单个过程中共同优化发送器和接收器组件。
2、将上述系统扩展到多发射机和多接受机网络，
3、提出radio transformer networks（RTN），作为将专家领域知识纳入机器学习（ML）模型的手段。
4、使用CNN对IQ采样数据进行调制类型分类

二、自编码器

  图中，虚线蓝色框内就是一个自编码器模型，它由编码器（Encoder）和解码器（Decoder）两部分组成，本质上都是对输入信号做某种变换。编码器将输入信号x$x$变换成编码信号y$y$，而解码器将编码y$y$转换成输出信号x˜$\tilde{x}$，即y=f(x)$\mathrm{y}=f(x)$，x˜=g(y)=g(f(x))$\tilde{x}=g(\mathrm{y})=g(f(x))$。而自编码器的目的是，让输出x˜$\tilde{x}$尽可能复现输入x$x$，即tries to copy its input to its output。但是，这样问题就来了——如果f$f$和g$g$都是恒等映射，那不就恒有x˜=x$\tilde{x}=x$了么？因此，我们经常对中间信号y$\mathrm{y}$（也叫作“编码”）做一定的约束，这样，系统往往能学出很有趣的编码变换f$f$和编码y$\mathrm{y}$。对于自编码器，我们往往并不关系输出什么（反正只是复现输入），我们真正关心的是中间层的编码，或者说是从输入到编码的映射。可以这么想，在我们强迫编码y$y$和输入x$x$不同的情况下，系统还能够去复原原始信号x$x$，那么说明编码y$\mathrm{y}$已经承载了原始数据的所有信息，但以一种不同的形式！这就是特征提取啊，而且是自动学出来的！实际上，自动学习原始数据的特征表达也是神经网络和深度学习的核心目的之一。而自编码器的这种在深度学习中略显鸡肋的功能却在通信系统中占据了得天独厚的优势，我们可以把我们的通信系统的发射端看成Encoder，将接收端看成Decoder，而在信道中传输的便是经由Encoder学习到的f$f$映射后得到的编码信号y$\mathrm{y}$。

三、autoencoder实现单发射端、单接收端通讯系统

1、信道模型

  发射端通过n个离散的信道发送M个可能的信息之一 s∈M={1,2,…,M}$\mathcal{s}\in \mathcal{M}=\{1,2,\dots ,M\}$给接收端。可以认为，发射端即将转换f:M→Rn$f:\mathcal{M}\to {\mathbb{R}}^n$应用到消息s$\mathcal{s}$以生成发送信号x=f(s)∈Rn$\mathrm{x}=f(s)\in {\mathbb{R}}^n$。通常，发射端的硬件会对x$\mathrm{x}$加以限制，例如，能量限制∥x∥22≤n$\Vert \mathrm{x}{\Vert }_2^2\le n$、幅度限制|xi|≤1$|x_i|\le 1$ ∀i$\mathrm{\forall }i$或者是平均功率限制E[|xi|2]≤1$E[|x_i{|}^2]\le 1$ ∀i$\mathrm{\forall }i$。该系统的通信速率为R=k/n$R=k/n$[bit/channel use],其中k=log2(M)$k={\log }_2(M)$。在接下来的论文中，符号(n,k)$(n,k)$表示通讯系统发送M=2k$M=2^k$信息（例如：k比特）通过n$n$个信道。我们将信道看做是一个条件概率函数p(y|x)$\mathrm{p}(\mathrm{y}|\mathrm{x})$，其中y∈Rn$\mathrm{y}\in {\mathbb{R}}^n$为接受信号，而后通过转换g:Rn→M$g:{\mathbb{R}}^n\to \mathcal{M}$产生传输信号s$s$的估计s^$\hat{s}$。
  通常，自编码器的目标是在某个中间层找到其输入的低维表示，从而允许以最小误差重建输出。在我们的例子中，autoencoder的目的是不同的。换句话说，通常大多数自编码器是从输入数据中去除冗余的，但这种自编码器（“信道自编码器”）通常是增加冗余的，目的是学习一个对信道扰动具有鲁棒性的中间表示。
  首先，我们需要寻找的自编码器能够学习一种s$\mathrm{s}$的表示x$\mathrm{x}$（用x$\mathrm{x}$来表示s$\mathrm{s}$）；其次，这样的一种表示（x$\mathrm{x}$）需要在信道损伤（例如：噪声、衰落、失真）的情况下，从x$\mathrm{x}$到y$\mathrm{y}$的映射是鲁棒的。这样，传输的消息可以以小的错误概率被恢复。
  下图显示了这种自编码器的一个例子。

  发射机由一个具有全连接的前馈NN组成，后面是一个规范化层，确保x$\mathrm{x}$上的物理约束得到满足。发射机的输入被编码为one-hot向量1s=RM$1_s={\mathbb{R}}^M$。信道由具有固定方差β=(2REb/N0)−1$\beta =(2R{E}_b/N_0{)}^{-1}$的噪声层表示，其中Eb/N0$E_b/N_0$表示每比特能量（Eb$E_b$）与噪声功率密度（N0$N_0$）之比。接收器也是由前馈NN实现。其最后一层使用softmax**，其输出p∈(0,1)M$p\in (0,1{)}^M$是所有可能消息的概率向量。解码的消息s^$\hat{s}$然后对应于具有最高概率的p$\mathrm{p}$的元素的索引。然后在所有所有可能的消息集s∈M$s\in \mathcal{M}$上对输入1s$1_s$和输出p$\mathrm{p}$之间交叉熵损失函数进行随机梯度下降（SGD），其中交叉熵损失函数是最适合分类问题的。

2、性能及表示

（1）BLER比较

  上左图(a)比较了使用BPSK调制、编码方式为汉明(7,4)编码、解码方式为硬解码或者最大似然解码情况下与自编码器(7,4)的块错误率（block error rete），例如Pr(s^≠s)$Pr(\hat{s}\ne s)$比较，其中自编码器加以固定的能量限制∥x∥22=n$\Vert \mathrm{x}{\Vert }_2^2=n$。所有系统的通信速率均为R=4/7$R=4/7$。作为比较，论文还选用了未编码的BPSK(4,4)作为对比。在没有任何先验知识的情况下，自编码器能够达到和汉明(7,4)编码、MLD解码的系统同样的性能。其中，自编码器的参数如下表所示。

  其中，固定Eb/N0=7dB$E_b/N_0=7dB$,使用学习率为0.001的Adam优化器。
  上右图(b)显示了相近的比较，只不过是针对(8,8)和(2,2)通讯系统。在(2,2)时，自编码器所取得的BLER和未编码的BPSK一致，但是在(8,8)通讯系统中，在信噪比接近于满信噪比时，自编码器表现的比未编码的BPSK更好。

（2）学习到的表示x$\mathrm{x}$

  上图显示了系统学习到不同(n,k)$(n,k)$值的情况下，发送消息的表示x$\mathrm{x}$的复合星座点。对于上图(a)，对于简单的(2,2)系统，表示x$\mathrm{x}$能够迅速收敛到有一定旋转的QPSk的星座点上；相近的，对于上图(b)，(2,4)系统能够收敛到有旋转的16-PSK星座点上；上图(c)显示了在(2,4)系统中用平均功率标准化的限制替代固定能量标准化后的结果，能够达到和16-QAM调制一样的BLER；上图(d)使用了t-SNE对7维的表示x$\mathrm{x}$进行了降维，得到了和上述形状类似的簇排列。

四、autoencoder实现多发射端、多接收端通讯系统

1、信道模型

  上述autoencoder实现的单发射端、单接收端通讯系统可以推广到多发射端、多接收端共享公共信道的通讯系统。

  发射端1想发送消息s1∈M${\mathcal{s}}_1\in \mathbb{M}$给接收端1，同时发射端2想发送消息s2∈M${\mathcal{s}}_2\in \mathbb{M}$给接收端2。所有的发射端-接收端对均由NN实现，和上述实现的单发射端、单接收端通讯系统不同的是，发送的消息x1,x2∈Cn$x_1,x_2\in {\mathbb{C}}^n$在接收端是相互干扰的,导致在接收端得到的是有噪声的信号。

其中，n1,n2∼CN(0,βIn)$n_1,n_2\sim \mathcal{C}\mathcal{N}(0,\beta {\mathrm{I}}_n)$为高斯噪声。为了简单，我们采用复值代替2n大小的实值向量,即(n,k)$(n,k)$表示每一个2k$2^k$消息通过n$n$个传输。用表示各自通讯对的交叉熵损失函数，用L~1(θt),L~2(θt)${\tilde{L}}_1({\theta }_t),{\tilde{L}}_2({\theta }_t)$表示和mini-batch t有关的损失函数。那么如何训练两对相互冲突的目标函数呢？一种方法即是最小化共同损失的加权和，例如L~=αL~1+(1−α)L~2$\tilde{L}=\alpha {\tilde{L}}_1+(1-\alpha ){\tilde{L}}_2$,其中α∈[0,1]$\alpha \in [0,1]$。然而，对每个损失给定相同的权值(例如α=0.5$\alpha =0.5$)并不必然导致相同的性能。在论文实验中，这种方法常导致不平等和局部结果。对于这种原因，我们采用第二种方法，即给定每一个mini-batch t一个动态权重αt${\alpha }_t$：其中，初始值α0=0.5${\alpha }_0=0.5$。在实验中，该方法通常能够得到较优的结果。

2、性能及表示

（1）BLER比较

  在实际实现通讯系统的过程中，需将复值转换成2n大小的实值向量进行训练。作为对比，实验以未编码的22k/n−QAM$2^{2k/n}-QAM$为基准，其中通过时分复用共享传输信道。如上图所示，在(1,1)和(2,2)情况下，自编码器和TS(time-sharing)有相同的性能；在(4,4)和(4,8)情况下，随着信噪比增大，自编码器展现出更明显的优势。

（2）学习到的表示x$\mathrm{x}$

  如上图(a)所示，对于(1,1),学习到了类似于BPSK经过一定旋转的星座图；然而，如上图(b)所示，对于(2,2)，学习到的表示并不是正交的，但可以看做是叠加编码；对于(4,4)和(4,8)，星座图更加难以解释，但是我们可以看到两个发射端的星座图类似椭圆，正交主轴和焦距不同，这在(4,8)表现的更加明显。

五、用于增强信号处理算法的RTN(无线转换网络)

  在通信信道以及收发机硬件中，信号常会发生改变，但这些往往可以通过紧凑的参数模型/变化来转换，常用的变换和估计包括符号/时钟定时重采样，与估计载频混合，并与反向信道脉冲进行卷积。参数估计复杂且和信号特定的属性有关，故本文提出一种改进的加入专家知识，且不只针对特定的信号假设的DL模型，其结构如下图所示。其主要包括三个部分：(i)$(\mathrm{i})$学习到的参数估计器gω:Rn→Rp$g_{\omega }:{\mathbb{R}}^n\to {\mathbb{R}}^p$，从输入y$\mathrm{y}$计算一个参数向量ω∈Rp$\omega \in {\mathbb{R}}^p$；(ii)参数转换t：Rn×Rp→Rn′${\mathbb{R}}^n\times {\mathbb{R}}^p\to {\mathbb{R}}^{n^{\prime }}$，即将确定性的函数应用于由ω$\omega$进行参数化并适合于传播现象的y$\mathrm{y}$；(iii)判别网络g$\mathbb{g}$：Rn′→M${\mathbb{R}}^{n^{\prime }}\to \mathcal{M}$，即从标准化的y¯∈Rn′$\overline{\mathrm{y}}\in {\mathbb{R}}^{n^{\prime }}$中产生出传输信号的估计s^$\hat{s}$。

  需要注意的是，上述的RTN训练目标并不是为了得到参数估计器本身，而是为了通过参数估计的方式获得更好的端到端的性能。
  针对上述的RTN，一个简单而有效的例子即是相偏估计和补偿，假定yc=ejφy~c∈Cn${\mathrm{y}}_c={\mathrm{e}}^{\mathcal{j}\phi }{\tilde{\mathrm{y}}}_c\in {\mathbb{C}}^n$为经历了相偏φ$\phi$的IQ采样向量，并令y=[R{y}T,S{y}T]T∈R2n$\mathrm{y}=[\mathfrak{R}\{\mathrm{y}{\}}^T,\mathfrak{S}\{\mathrm{y}{\}}^T{]}^T\in {\mathbb{R}}^{2n}$，估计器g$\mathbb{g}$的目标是学习一个相偏φ$\phi$的估计φ^=ω=gω(y)$\hat{\phi }=\omega ={\mathbb{g}}_{\omega }(\mathrm{y})$，然后用于参数转换t$\mathbb{t}$来计算y¯c=e−jφyc${\overline{\mathrm{y}}}_c={\mathrm{e}}^{-\mathcal{j}\phi }{\mathrm{y}}_c$。于是得到规范化的信号y¯=[R{y¯c}T,S{y¯c}T]T∈R2n$\overline{\mathrm{y}}=[\mathfrak{R}\{{\overline{\mathrm{y}}}_c{\}}^T,\mathfrak{S}\{{\overline{\mathrm{y}}}_c{\}}^T{]}^T\in {\mathbb{R}}^{2n}$，具体的由下式给出：

然后将得到的y¯$\overline{\mathrm{y}}$送入到判别网络g$\mathbb{g}$进一步的处理。
  文章比较了调制方式为DBPSK(8,7)、编码方式为汉明(7,4)码并使用MLSE均衡得到的结果与未使用RTN、使用了RTN的自编码器(8,4)进行相应的比较，比较结果如下图所示。

  其中信道类型为多径衰落信道，信道抽头系数L=3$\mathrm{L}=3$，则接受信号y=[R{y}T,S{y}T]T$\mathrm{y}=[\mathfrak{R}\{\mathrm{y}{\}}^T,\mathfrak{S}\{\mathrm{y}{\}}^T{]}^T$可以由下列公式给出：其中，hc∼CN(0,L−1IL)$h_c\sim \mathcal{C}\mathcal{N}(0,L^{-1}{\mathrm{I}}_L)$是独立同分布的瑞利信道抽头，nc∼CN(0,(REb/N0)−1In)$n_c\sim \mathcal{C}\mathcal{N}(0,(R{E}_b/N_0{)}^{-1}{\mathrm{I}}_n)$是接收端噪声。xc∈Cn${\mathrm{x}}_{\mathbf{c}}\in {\mathbb{C}}^{\mathbf{n}}$是输入信号，其中我们假定xc,i=0i≤0$x_{c,i}=0i\le 0$。这里的参数估计器是预测一个复值的参数向量ωc${\omega }_c$(使用2倍长度的实值代替)，送入到参数转换与yc${\mathrm{y}}_c$做复卷积，即RTN通过逆滤波补偿信道输出。其中估计器由两层全连接的神经网络构成，内层的**函数为tanh函数，输出层**函数为线性**函数。
  在上述比较中，具有RTN的自编码器相对于没有RTN的自编码器和调制方式为DBPSK(8,7)、编码方式为汉明(7,4)码并使用MLSE均衡得到的结果都有更优的结果。具有RTN的自编码器在训练中收敛的速度更快，结果如下图所示。

六、使用CNN做分类任务

  在之前的很长一段时间里，一直有人尝试用机器学习的方法对调制类型进行分类，如决策树、支持向量机、随机森林或小型前馈神经网络。还有一个方法是使用在利用专家知识提取得到的特征映射上进行模式识别，，例如谱相关函数结合神经网络进行分类。但是却没有在原始数据上进行分类的方法，故本文提出一种卷积神经网络应用在原始数据上进行分类，其结构如下图所示。

  其中训练数据采用的是RML2016.10b数据集，该数据集包括1.2M的IQ采样数据，其中包括10中不同的数字调制方式。其数据集为真实的无线信道采样数据，包括多径衰落、采样率和中心频偏等差别，其信噪比为−20dB$-20dB$到18dB$18dB$之间的20个不同值。文章对比了随机猜测、决策树、提升树以及CNN的分类结果，如下图所示。

  很明显，在低信噪比的情况下，CNN分类取得了更好的分类结果。单就CNN而言，结果如下图的混淆矩阵图所示。

  其中，上图的实验结果是在SNR=10dB$\mathrm{S}\mathrm{N}\mathrm{R}=10dB$的情况下得到的。我们可以看到，在高信噪比情况下，CNN仍然难以区分出AM-DSB和WBFM。其混淆主要发生在潜在的语音信号空闲或者没有承载很多信息的时候。而在短时观察少量信号的情况下很难区分QAM16和QAM64。

七、存在的问题和挑战

1、数据集的挑战

  在计算机视觉、语音识别以及自然语言处理领域有统一的数据集进行比较，而在通讯领域暂时还没有统一的数据集进行比较，那么在实际的实验中，对实验结果就会存在较大的分歧。

2、数据表示、损失函数和训练环境的信噪比

  深度学习应用于通讯是一个新的领域，所以对于数据的表示、损失函数选取以及训练策略所知甚少。

3、复值神经网络

  现有的神经网络还不能够支持对于复数值的训练和优化。

4、深度学习增强算法

  当传输的数据集M$\mathcal{M}$是一个大型的数据集时，如k=100bits$k=100bits$，则M=2100$M=2^{100}$可能的消息，这对于神经网络而言将是难以处理的维数灾难。

5、端到端学习的系统认知

  在上述的端到端的学习过程中，论文默认知道信道的类型及参数，这样才能使得神经网络的反向传播算法能够得到有效计算。在信道类型或信道模型参数未知的情况下，神经网络难以进行有效的传播和训练，将无法正常工作。

6、从CSI中学习

  精确的信道状态信息(CSI)是多用户MIMO系统的基础，但是当前对于该信息使用甚少，对于ML模型，可以尝试从CSI中学习和建模。