大气湍流引起的光强闪烁使得自由空间光通信(FSO)系统性能恶化，而分集接收技术可有效改善这一影响。为进一步分析分集接收技术对相干接收系统性能的影响，基于二进制相移键控(BPSK)调制和外差相干接收技术，建立了Gamma-Gamma大气湍流信道模型下自由空间光通信分集接收系统模型。在不同大气湍流强度和接收天线数情况下，分别采取最大比合并(MRC)、选择合并(SC)和等增益合并(EGC)，分析了对应的系统误码率(BER)和通信中断概率(OP)，并与相同接收口径下的传统单天线接收系统的性能进行了比较。结果表明：MRC、EGC分集接收对大气湍流下的相干通信系统性能有明显改善，而SC分集接收仅当平均信噪比低于某一阈值时对相干通信系统的性能有所优化。

在相干光通信系统中,激光器相位噪声导致信号在复平面内发生旋转,因此需要在接收端对信号进行载波相位估计和恢复。在利用M次方载波相位恢复算法进行相位估计时,简化了对相邻N个符号进行求和取平均以减小加性高斯噪声影响这一步,将由残余频偏、相位噪声及加性高斯噪声引起的总相位偏移量看作一个整体,直接估计出每个符号的总相位偏移,之后再恢复出调制相位。通过仿真比较了该算法与传统M次方载波相位恢复算法的性能,用该算法进行相位恢复后,信号的相位与原调制相位之间的误差只有10 -16 rad,而采用传统算法相位恢复后的误差可达0.3 rad,表明所提算法能够更加准确地恢复出调制相位,具有更高的估计精度。利用本文算法可在没有进行频偏补偿的条件下,直接完成相位恢复,而传统算法只能对频偏补偿后的信号进行相位恢复。此外,由于减少了求和取平均这一步,本文算法的复杂度也得到了降低。

针对国内长距离相干光通信接收系统采用单管探测器接收微弱信号噪声大、信噪比低等缺点，设计了一种应用于相干光通信系统的平衡探测器，运用两个PIN 管分别加跨阻放大器(TIA)，经过两个180°混频魔T 进行耦合相减，消除了大部分的激光器相对强度噪声(RIN)。搭建了测试平衡探测器的相干光通信系统，使本振光和信号光进行光混频，输出眼图显示通信状态良好。通过对比双管和单管的频谱图，进一步说明相干光通信系统的噪声通过这种平衡探测器得到了降低，系统的信噪比提高了大约10 dB，从而证明了该平衡探测器运用于相干光通信系统的可行性和优越性。