利用光栅检测涡旋光束轨道角动量(OAM)并进行性能改善的方法容易实现且能降低通信系统成本。将涡旋光束照射到周期渐变光栅和环形光栅的合适位置, 观察衍射图中光斑的分布规律, 并对入射涡旋光束进行检测。实验结果表明,通过判断光斑中暗条纹的数量和朝向便可确定入射涡旋光束的拓扑荷的大小和正负, 利用相位校正技术或光束复制技术可以使衍射结果中的条纹更加清晰, 使用这两种技术后可将检测到的拓扑荷数提高至30。该研究为OAM复用通信中的解复用和涡旋光的产生提供了依据。

分析了涡旋光与平面波的干涉现象，利用涡旋光共轴叠加干涉生成携带双态轨道角动量的光，并将其应用于轨道角动量拓扑荷数的检测。利用叉形错位光栅制备呈中心对称的涡旋光束，并讨论了在不同拓扑荷数情况下，利用两束涡旋光束干涉制备双态轨道角动量光束。数值模拟和实验结果表明，随着拓扑荷数的数值及正负的变化，两束涡旋光束干涉叠加后其干涉图像发生规律性的变化，据此可检测涡旋光束。涡旋光束在信息传输及编码方面具有重要意义，此研究为其在自由空间通信中的复用提供了实验依据，也为光通信系统的性能改善提供了可能。

轨道角动量(OAM)是具有螺旋相位的光束的自然属性，且不同拓扑荷的OAM光束之间相互正交。利用OAM光束的这种特性，可以把OAM光束作为一种新的信息载体应用到复用技术之中。OAM复用技术在不需要额外带宽的情况下可以极大提升信道容量和频谱效率。光纤作为一种优良的传输介质,是现代通信网络中的首选，基于光纤传输的OAM复用技术引起了研究者的广泛关注。介绍了轨道角动量的基本原理，讨论了适于携带OAM光束传输的光纤、OAM光束的生成与检测方法、OAM复用技术相关器件及其复用系统实验等方面的研究进展，最后探讨了现有技术存在的问题和发展趋势。

讨论了基于Kolmogorov模型的大气湍流对于自由空间光通信轨道角动量（OAM）模式正交性、光束强度以及相位分布的影响。仿真研究了不同大气湍流强度对轨道角动量模式复用光通信系统中相邻模式之间的串扰。仿真结果表明，在弱大气湍流条件下，连续轨道角动量模式可以作为短距离自由空间光通信中的模式分配方案。在中等大气湍流条件下，轨道角动量模式间隔应该至少为3，才能保证信号串扰不至于影响到接收端的信号提取。

提出一种利用干涉实现涡旋光束轨道角动量简易检测的新方法。使用空间光调制器产生涡旋光束时,仅由调制的涡旋光束和未能完全调制的入射高斯光束即可直接发生同轴干涉,产生完美的花瓣状干涉图案,且干涉花瓣数量与涡旋光束携带的轨道角动量值一致,因此,检测由空间光调制器产生的涡旋光束轨道角动量时不需要额外使用参考干涉光。利用该干涉分析了Bessel-Gaussian光束和Laguerre-Gaussian光束的干涉图案,所得结果不仅能反映光束的轨道角动量值——角向因子,还能反映轨道角动量的正负以及Laguerre-Gaussian光束的径向因子,且干涉模式清晰,稳定性高。

携带轨道角动量(OAM)的分数阶涡旋光束是一种特殊螺旋结构的光束.利用空间光调制器加载传输方向与z轴夹角α干涉光栅,制备出了分数阶涡旋光束；利用水平与垂直叠加光栅,制备出具有不同拓扑荷数的光斑阵列.通过对比多组叠加实验图样,分析了不同拓扑荷数叠加涡旋光束轨道角动量序列的规律,发现分数阶涡旋光束作为载体加载信息时,较整数阶涡旋光束有更强的光强分布,其中不同分数阶涡旋光束阵列的轨道角动量序列传递信息效率较高,有利于信息的传输,为涡旋光束在自由空间通信中的复用奠定了理论基础和提供了实验依据.

根据轨道角动量（OAM）密度的定义，推导出高阶贝塞尔光束和高阶拉盖尔高斯光束一样具有轨道角动量，且不存在发散角的问题，并基于该理论提出了一种适合基于高阶贝塞尔函数的OAM光束传输的折射率环状分布的光纤结构。理论分析了在这种折射率环状分布结构的光纤中可能传输的OAM模式，并且仿真得出了这几个OAM模式的强度分布图和相位分布图。理论分析的结果表明，光纤中可以传输的模式数目并不单纯随着某一个光纤结构参数的改变呈线性变化，而是取决于折射率环状分布光纤内径和外径分别对应的归一化频率V1和V2的区间内所有阶贝塞尔函数根的总数目。

在自由空间传输的过程中,轨道角动量(OAM)光束会受到大气湍流的影响,其螺旋相位会产生畸变,导致解调后的信号质量下降。为了研究不同湍流条件下大气湍流对正交频分复用(OFDM)-OAM光信号的影响,使用non-Kolmogorov湍流模型,通过改变模型中折射率结构常数 Cn2和大气指数α模拟不同情况下的大气湍流,测试OAM光信号经过湍流模型后的解调高斯光强图样、光束强度以及其携带的OFDM-16QAM信号的误码率。实验结果表明:non-Kolmogorov湍流模型中 Cn2和α的改变会对解调后的高斯光束以及探测到的OFDM信号产生一定的影响,而在发送端进行信道编码可以从一定程度上改善湍流对传输信号的影响。

研究了光学涡旋在光纤中传播特性。从Maxwell方程出发，推导光波导中的波动方程，并进行阶跃光纤传输的本征模式求解，根据光学涡旋模式(OAM模)和线偏振模式(LP模)与矢量模式之间的关系，解出光学涡旋以及线偏振模在光纤中的模式分布，理论分析了光学涡旋在光纤中较LP模的传播优势，并通过计算模拟其在弯折光纤中的传播过程，发现其光场强度空间分布具有周期性旋转特性。研究光纤弯曲半径以及涡旋拓扑荷对光学涡旋传播的影响。光纤弯曲半径越小，传输损耗越大；涡旋拓扑荷越大,传输损耗越大，对应的旋转周期越小。