无监督小样本条件通信信号调制样式识别已成为一个研究难点，近年来已有多位研究者在该领域进行较为深入的研究[1-6]．文献[1-2]介绍当前深度学习在通信领域的主要研究应用及面临的主要挑战．调制样式识别领域对无监督小样本有着客观需求，这方面研究主要围绕生成对抗学习[3]、表示学习[4-5]、无监督预训练[5-6]等方法．文献[3]提出通过信号重构器和类判别器的对抗训练，实现对开集环境调制信号的有效识别；文献[4]通过自编码器重构时域调制信号以无监督方式对调制信号进行特征提取；文献[5]利用无监督对比预测编码网络提取信号特征，实现无监督预训练特征提取网络以减小网络搜索空间；文献[6]利用稀疏学习优化提取的特征矩阵并求解对应的权值矩阵和偏置作为神经网络的初值．本研究所要引入的对抗域适应迁移学习[7-8]是指目标域样本受信道环境等因素影响，同源域样本分布存在差异，导致当使用源域训练的模型直接在目标域样本上识别时，准确率大幅下降．同时目标域样本往往是实采信号，为无标签样本，传统有监督学习算法无法适用．本研究采用对抗域适应迁移框架，在最小化分类损失函数的同时最大化域判别损失函数，目的是使特征提取器能够提取到源域和目标域样本的既具有类差异又具有域不变的特征．仿真结果表明该方法具有可行性和有效性．1 信道对信号的影响分析传输的波形会受到噪声的污染，调制信号r(t)在高斯噪声中的数学模型为r(t)=Re{Ar˜(t)eω0+φ(t)}+n(t)，式中：t为时间自变量；参数A,ω0,φ(t)取决于信号的调制方式；r˜(t)为归一化的复包络；n(t)为加性噪声，其幅度的概率密度函数服从均值为0，方差为σ2的高斯分布．进一步推出接收信号r(t)包络的概率密度函数．ω为数字角频率，对n(t)进行IQ分解，令n(t)=nI(t)cos ωt-nQ(t)sin ωt，则r(t)=zI(t)cos ωt-zQ(t)sin ωt，式中：zI(t)=Re{Ar˜(t)eω0+φ(t)}+nI(t)；zQ(t)=Re{Ar˜(t)eω0+φ(t)}+nQ(t)．接收信号的包络z(t)=zI2(t)+zQ2(t)．接收信号包络的概率密度函数f(z)=zσ2exp-z2+A22σ2I0Azσ2．分析噪声环境中信号的概率密度函数，不同信噪比条件下信号的幅度概率密度函数存在分布差异．此时人工设计的特征[9-11]在低信噪比条件下与统计期望产生较大偏差，在实际应用中通常无法达到设计的匹配阈值；同时，数据驱动的深度学习假设训练集和测试集独立同分布，无法适应样本分布差异较大的情况，而域适应迁移学习针对同构数据分布存在差异的样本进行泛化，利用高信噪比信号的特征辅助拟合低信噪比信号的特征，从而提高模型的鲁棒性和自适应能力．2 残差-对抗域适应迁移识别模型2.1　域对抗神经网络模型为实现特征提取器Gf在分类器Gc和域判别器Gd共同约束下进行对抗训练，特征提取器和分类器构成标准前馈结构，以有监督学习方式通过反向传播训练网络；同时，域判别器通过梯度反转层将域判别损失以相反数值反向传播至特征提取器，以最大化域判别损失函数．域对抗神经网络(domain-adversarial neural networks，DANN)如图1所示．10.13245/j.hust.210422.F001图1域适应网络结构框图特征提取器数学模型为Gf(⋅;θf)，其中θf为特征提取网络的参数集合，其特征提取模型为Gf:X→RD，X为信号样本集，RD为D维特征空间．类判别器数学模型为Gc(⋅;θc)，其中θc为分类器网络的参数集合，其分类判决模型为Gc:RD→RL，表示将D维特征空间映射到维度为L的标签空间．域判别器数学模型为Gd(⋅;θd)，θd为域判别网络的参数集合，其域判别模型为Gd:RD→[0，1]，表示对D维特征空间做二值分类．进一步对其损失函数进行建模，分类损失函数模型为Lci(θf,θc)=Lc(Gc(Gf(xi;θf);θc),yi)，式中(xi,yi)为第i个有标签样本．分类损失函数由Gf和Gc组成，通过随机梯度下降(stochastic gradient descent，SGD)优化参数θf和θc．域判别器损失函数为Ldi(θf,θd)=Ld(Gd(Gf(xi;θf);θd),di)，式中(xi,di)为第i个样本所属的域标签．域损失函数由Gf和Gd组成，通过随机梯度下降优化参数θf和θd．整个前馈网络模型为E(θf,θc,θd)=1N∑i=1NLci(θf,θc)-λ[1N∙∑i=1NLdi(θf,θd)+1N'∑i=N+1N+N'Ldi(θf,θd)].目标函数为：(θ̂f,θ̂c)=argminθf,θcE(θf,θc,θ̂d)；θ̂d=argmaxθdE(θ̂f,θ̂c,θd)．训练过程使用源域样本数为N，目标域样本数为N'，参与训练的总样本量为N+N'，通过随机梯度下降搜索使似然函数E(θf,θc,θd)最小化的参数θf,θc和最大化的参数θd来优化整个网络，参数更新的过程表示为θf-μ(∂Lci/∂θf-λ∂Ldi/∂θf)→θf；θc-μ∂Lci/∂θc→θc；θd-μλ∂Ldi/∂θd→θd，式中：μ为学习率；域判别器的损失权重λ控制域判别器损失函数对特征提取器的影响．通常在训练初始阶段，域判别器产生的误差较大，应采用较小的步长进行迁移，λ须尽可能小，随着域适应迁移训练，λ逐步趋向于1，此时对域判别器的参数进行较大步长的更新，λ的取值为λ=2/(1+e-γ)-1，式中参数γ∈(0,1)．梯度反转层(gradient reversal layer，GRL)的提出是为了当在域判别端反向传播更新参数时能够逐步使域判别损失最大化，以达到迭代过程中特征提取器Gf能够提取到符合域不变的特征，从而实现源域特征向目标域的迁移．其数学模型表示为：前馈过程R(x)=x，反向传播过程dR/dx=-I，最终网络模型更新为E~(θf,θc,θd)=1N∑i=1NLc(Gc(Gf(xi;θf);θc),yi)-λ[1N∑i=1NLd(Gd(R(Gf(xi;θf));θd),di)+1N'∑i=N+1N+N'Ld(Gd(R(Gf(xi;θf));θd),di)].2.2　并联残差特征提取器模型神经网络深层化[12]和多结构化[13]被证明对拟合数据的高维语义特征具有有效性，但同时面临网络节点参数递增导致模型复杂度增加和人工设计的超参数过多导致模型过于专一化的问题．为此文献[14]提出ResNeXt网络，如图2(a)所示．10.13245/j.hust.210422.F002图2残差结构ResNeXt网络借鉴ResNet[12]的残差结构(见图2(b))使网络层数加深而不加剧梯度消失和梯度爆炸问题及Inception-v4[13]的并联多结构化网络有效提取不同尺度特征的特点．ResNeXt各分支拓扑采用相同结构，通过分组卷积的方式等效增加卷积层的感受野，实现在不增加网络深度和复杂度的前提下提高网络的特征拟合能力．与典型残差网络模型相似，其残差结构数学模型可以表示为y=∑i=1CT(ix)+x，式中：Ti为支路i的拟合函数；C为残差块的势，为支路总个数．3 算法设计残差-对抗域适应迁移算法流程如图3所示．对抗训练算法设计分为特征提取器(F)-类判别器(C)支路、特征提取器(F)-域判别器(D)支路，分别记为FC支路和FD支路，对抗迁移通过两条支路构成的损失函数共同优化特征提取器网络的结点权重，具体步骤如下．10.13245/j.hust.210422.F003图3残差-对抗域适应迁移算法框图a. FC支路优化流程 步骤1 划分有标签源域样本集合S[(x1,y1)，(x2,y2),⋯,(xN,yN)作为FC支路的输入．步骤2 使用softmax分类器构建交叉熵损失函数作为目标函数，有L=-1N∑i∑c=1Myiclog pic，式中：M为类别数量；yic为第i个样本的类标签，pic为第i个样本的类别概率．步骤3 其中S[(x1,y1),(x2,y2),⋯,(xN,yN)中的样本以有监督方式训练类判别器，有ψFC(θ)=argminθ1N∑i=1NLsup[Cθ∘Fθ(xi),yi]，式中：Cθ∘Fθ为特征提取器和类判别器构成的混合函数，通过有监督学习找到网络的最佳参数θ；Lsup为有监督损失函数.使用随机梯度下降算法优化FC支路．本文特征提取器ResNeXt网络参数设置如表1所示．10.13245/j.hust.210422.T001表1ResNeXt网络参数网络层名称输出维度InputConvolution LayerResidual block1Residual block2Residual block3Residual block4Residual block52×1 02432×1 024×164×512×164×512×1512×256×1512×128×11 024×64×1b. FD支路优化流程步骤1 划分源域样本S[(x1,y1),(x2,y2)，⋯,(xN,yN)和无类标签目标域样本集合T[x1,x2,⋯,xN']作为FD支路的输入，并记源域样本域标签为0，目标域样本域标签为1．步骤2 使用BCE (binary cross entropy)损失函数，构建FD支路的目标函数，有loss(Xi,yi)=-γi[yilogxi+(1-yi)log(1-xi)]，式中：训练样本Xi来自源域和目标域，表示为Xi∈S{xi}⋃T{xi}；yi∈{0,1}；γi为不同样本所占的权重．步骤3 FD支路域判别器输入的源域样本表示为S[(x1,0),(x2,0),⋯,(xN,0)]，目标域样本表示为T[(x1,1),(x2,1),⋯,(xN',1)]，等效地以有监督方式训练域判别器，有ψFD(θ)=argmaxθ[1/(N+N')]∙∑i=1N+N'Lsup[Dθ∘Fθ(xi),yi]，式中Dθ∘Fθ为特征提取器和域判别器构成的混合函数．类判别器通过判断源域和目标域中样本的域标签计算损失值，并通过梯度反转层以相反数值传播至特征提取器，搜索使目标函数取极大值的参数θ．4 实验验证实验使用Deepsig[15]公开的实采调制信号数据集，选用AM-DSB-WC，AM-DSB-SC，AM-SSB-WC，AM-SSB-SC，16QAM，32QAM，64QAM，128QAM及256QAM共9类IQ形式调制信号样本．图4为调制信号波形图，由图4(a)和图4(b)对比可以看到：受噪声影响，信号包络发生畸变．此时使用以往的单一样本集训练网络会造成网络鲁棒性下降．10.13245/j.hust.210422.F004图4调制信号波形图图5为通过t-SNE[16]对ResNeXt提取的源域和目标域特征进行降维可视化，通过归一化处理将目标域特征和源域特征表示在一个单位空间中．发现源域特征和目标域特征分布发生改变，空间重合度大幅提升，表明通过对抗域适应算法特征提取网络能够提取到域不变特征．10.13245/j.hust.210422.F005图5源域目标域特征分布通过参考文献[15，17]的实验结果可知：当信噪比大于18 dB时，准确率达到最大值．经过多次实验，最终将信噪比在18~30 dB(信噪比间隔为2 dB)的信号作为源域样本，-6~6 dB(信噪比间隔为2 dB)的信号作为目标域．图6为本文识别算法和对照实验在目标域信噪比对9种调试信号的平均识别准确率，图6中实线表示仅用源域样本训练网络然后直接识别目标域样本，可以看出这样得到的识别模型无法有效识别目标域信号．本文算法识别性能如图6虚线所示，通过对抗域适应迁移学习利用源域特征的辅助信息，目标域的识别准确率得到提升．10.13245/j.hust.210422.F006图6对抗域适应迁移算法平均识别准确率1—本文识别算法；2—源域训练直接在目标域测试.图7所示目标域为2 dB时不同调制样式间的识别准确率，从图7可以看出对角线处能够达到较高的准确率，表明本文算法具备一定的可用性，对抗域适应网络能够从IQ序列中拟合既具有类差异性又具有域不变性的特征．图7结果与文献[15]的结果类似，三个调制样式子集{AM-DSB-SC，AM-DSB-WC}，{AM-SSB-SC，AM-SSB-WC}，{MQAM}类间易混淆，且MQAM信号的分类效果略优于AM-SSB和AM-DSB信号的分类效果．同时，当信噪比低于0 dB时，本文算法略优于文献[15]算法，其主要原因是域适应迁移算法可以学习到源域高信噪比信号和目标域低信噪比信号的共有特征，从而辅助对低信噪比信号的识别．10.13245/j.hust.210422.F007图7目标域2 dB的类间识别准确率5 结语本研究阐述和分析了在实际环境中，当源域和目标域样本分布存在较大差异时，利用对抗域适应迁移学习进行调制识别的原理．通过迁移高信噪比条件的特征辅助训练低信噪比的信号特征，实验验证该算法是可行有效的，但随着源域与目标域信噪比差异过大，识别准确率仍有所下降．本研究是对以数据驱动的深度学习调制识别方法进行完善．实现目标域以无监督方式进行分类识别，是一种由数据驱动的无参数估计和特征工程的端到端调制样式识别算法，对复杂信号分析具有一定优势．