在本文中,我们提出了一个动态调度来调整正则化强度,以适应各种网络架构和训练过程。我们的动态正则化是根据训练损失的变化自适应的。对于轻网络架构,它产生低正则化强度,而对于重网络架构,产生高正则化强度。此外,强度是自定步长增长的,以避免过拟合。实验结果表明,所提出的动态正则化方法优于现有的ShakeDrop、Shake-Shake和DropBlock正则化方法。未来,我们将研究动态正则化在数据增强和基于退出的方法中的潜力。
2022-09-19 14:08:56 3.25MB 深度学习 CNN
1
文章算法来自王彦飞的论文《数值求解迭代Tikhonov正则化方法的一点注记》
2022-09-13 21:50:30 2KB 迭代Tikhonov正则化 反问题
1
已经提出了几种基于波段的总变化(TV)正规化低秩(LR)的模型,以消除高光谱图像(HSI)中的混合噪声。 这些方法基于LR矩阵分解将高维HSI数据转换为2D数据。 该策略引入了有用的多路结构信息的丢失。 而且,这些基于波段的基于电视的方法以单独的方式利用空间信息。 为了解决这些问题,我们提出了一种空间频谱电视正则化LR张量分解(SSTV-LRTF)方法,以消除HSI中的混合噪声。 一方面,假定高光谱数据位于LR张量中,该张量可以利用高光谱数据的固有张量结构。 基于LRTF的方法可以有效地将LR干净图像与稀疏噪声区分开。 从另一方面,假设HSI在空间域中是分段平滑的。 TV正则化在保留空间分段平滑度和消除高斯噪声方面有效。 这些事实激发了LRTF与电视正则化的集成。 为了解决带状电视的局限性,我们使用SSTV正则化同时考虑本地空间结构和相邻频带的频谱相关性。 模拟和真实数据实验均表明,与最新的电视规则化和基于LR的方法相比,所提出的SSTV-LRTF方法在HSI混合噪声去除方面具有出色的性能。
2022-09-08 08:46:38 4MB 研究论文
1
基于MATLAB的Tikhonov正则化超分辨率重建仿真+含代码操作演示视频 运行注意事项:使用matlab2021a或者更高版本测试,运行里面的Runme.m文件,不要直接运行子函数文件。运行时注意matlab左侧的当前文件夹窗口必须是当前工程所在路径。具体可观看提供的操作录像视频跟着操作。
Tikhonov正则化工具箱.7z
2022-08-16 16:56:22 733KB 正则化
1
本文考虑采用平滑L0正则化(BGSL0)的批梯度方法进行训练和修剪前馈神经网络。 我们展示了为什么BGSL0可以产生稀疏的权重,这对于修剪网络。 我们证明了在温和条件下BGSL0的弱收敛和强收敛。 还获得了误差函数在训练过程中递减的单调性。 两个例子是用来证实理论分析并显示BGSL0的稀疏性比三个典型Lp正则化更好方法。
2022-07-15 16:52:19 494KB 研究论文
1
matlab图像去模糊原始码CCPi规范化工具包() 掌握 发展 Anaconda二进制文件 迭代图像重建(IIR)方法经常需要进行正则化,以确保收敛并使得逆问题很好地解决。 CCPi正则化工具包(CCPi-RGL)工具包提供了一组2D / 3D正则化策略,以确保IIR方法的更好性能(更高的SNR和分辨率)。 标量和矢量数据集的正则化模块基于该框架,并且可以与PDHG,Douglas-Rachford,ADMM,FISTA和一起使用。 CCPi-RGL的主要目标是,该工具包可用于图像去噪问题。 核心模块用C-OMP和CUDA语言编写,并提供了Matlab和Python的包装器。 先决条件: 或者 Python(经过测试的版本3.5 / 2.7); 赛顿 C编译器 nvcc(CUDA SDK)编译器 套餐模块: 单通道(标量): Rudin-Osher-Fatemi(ROF)总变化(显式PDE最小化方案) 2D / 3D CPU / GPU (参考资料1 ) 快速渐变投影(FGP)总变化量2D / 3D CPU / GPU (参考2 ) 斯普利特-布雷格曼(SB)Total Variat
2022-06-23 20:54:36 2.93MB 系统开源
1
在 ABAQUS 中实现相场正则化凝聚带模型 (PF-CZM)。 注意:例程以 FORTRAN90 的自由格式语法编写。目前 UEL 子程序只能在串行计算中运行。 用法:abaqus 交互作业=bending_bfgs 用户=pfczm_bfgs
2022-06-05 09:04:39 3.7MB 综合资源
基于边界约束和上下文正则化的去雾算法资源很少 里面包括可以直接matlab运行的代码,以及文献原文
1