提出了一种基于小波降噪与改进的符号内频域平均(ISFA)联合的相干光正交频分复用(CO-OFDM)系统信道估计方法。该方法利用最小二乘(LS)方法进行信道估计，并对估计后的结果进行小波去噪处理，最后采用Kaiser窗函数改进ISFA 算法对小波处理结果进行ISFA，完成联合去噪。仿真结果表明，该方法可以有效地提高信道估计精度。当光信噪比(OSNR)为17 dB时，该算法的误码性能(BER)比ISFA 算法的误码性能提高将近一个量级。

基于高阶正交幅度调制(QAM)和大线宽相干光正交频分复用(CO-OFDM)系统, 提出了一种在时域进行无迹卡尔曼滤波(UKF)的相位噪声补偿算法。该算法在接收端基于训练符号频域卡尔曼滤波实现信道均衡, 用较小的频域导频数据开销进行频域扩展卡尔曼滤波, 先补偿公共相位误差(CPE)噪声, 然后将CPE噪声补偿之后的数据在时域进行载波间干扰(ICI)相位噪声粗补偿。对相位噪声粗补偿后的频域数据进行预判决, 结合接收端原始时域数据, 在时域对判决后的数据进行UKF以实现ICI相位噪声的精细补偿。对精细补偿之后的频域数据再进行相位噪声粗补偿并进行迭代运算, 极大地提高了相位噪声的补偿效果。对50 Gbit·s-1的CO-OFDM系统进行了传输距离为100 km的仿真, 与其他算法相比, 所提算法的频谱利用率极高, 且具有较好的补偿效果。对激光器线宽为700 kHz且调制方式为32QAM的传输信号进行二次迭代后, 所提相位噪声补偿算法的误码率性能仍可达到前向纠错上限。所提算法促进了大线宽CO-OFDM系统在长距离接入网和城域网中的应用。