（ICCV 2023）Parallax-Tolerant Unsupervised Deep Image Stitching

### ICCV 2023：Parallax-Tolerant Unsupervised Deep Image Stitching #### 概述 本文介绍了一种新的图像拼接方法——Parallax-Tolerant Unsupervised Deep Image Stitching（UDIS++），该方法针对现有的图像拼接技术在处理大视差图像时遇到的问题进行了改进。UDIS++是一种无监督学习方法，能够在无需人工标记的情况下学习到鲁棒性强、适应性好的图像特征，从而实现高质量的图像拼接效果。 #### 背景与挑战 传统的图像拼接技术通常依赖于几何特征（如点、线、边缘等），这些手工设计的特征对于具备足够几何结构的自然场景表现良好。然而，在纹理较少或视差较大的情况下，传统方法的表现就会受到影响。例如，当面对大量视差时，基于学习的方法可能会模糊视差区域；而在低纹理场景下，传统的基于几何特征的方法则可能因缺乏足够的几何特征而失败。 #### 方法论 为了克服上述问题，研究团队提出了UDIS++，一种能够容忍视差变化的无监督深度图像拼接技术。该技术主要分为以下几个步骤： 1. **灵活的图像配准**：UDIS++通过一种从全局同构变换到局部薄板样条运动的鲁棒且灵活的配准方式来建模图像对齐过程。这种配准方法可以为重叠区域提供精确的对齐，并通过联合优化对齐和失真来保持非重叠区域的形状。 2. **增强的迭代策略**：为了提高模型的泛化能力，UDIS++还设计了一个简单但有效的迭代策略来增强配准适应性，尤其是在跨数据集和跨分辨率的应用中。 3. **消除视差伪影**：UDIS++进一步采取措施来消除视差伪影，确保最终的拼接结果既准确又自然。 #### 实验与验证 研究团队利用了UDIS-D数据集中的两个具体案例来验证UDIS++的有效性和优越性： 1. **大视差案例**：在这个案例中，研究人员展示了UDIS++如何有效地处理具有大视差的图像，相比于之前的方法（例如UDIS），UDIS++不仅没有模糊视差区域，而且还保持了高清晰度和连贯性。 2. **低纹理场景案例**：另一个案例则聚焦于低纹理场景下的图像拼接。与传统方法（如LPC）相比，UDIS++能够在缺乏足够几何特征的情况下成功地完成拼接任务，这得益于其强大的自适应学习能力和对复杂场景的理解。 #### 结论与展望 UDIS++作为一种新的图像拼接技术，不仅克服了现有方法在处理大视差和低纹理场景时的局限性，而且还在提高图像拼接质量方面取得了显著的进步。随着未来对这一领域研究的深入，预计UDIS++将在更多实际应用场景中发挥重要作用，如虚拟现实、自动驾驶等领域。此外，UDIS++的成功也为后续的研究提供了有价值的参考方向，即如何结合深度学习技术和传统几何特征提取方法来解决更广泛的实际问题。