具有注意机制的递归神经网络模型已被证明对各种各样的序列到序列问题是非常有效的。然而，软注意机制在产生输出序列中的每个元素时对整个输入序列执行传递，这一事实排除了它们在在线设置中的使用，并导致二次时间复杂度。基于输入和输出序列元素之间的对齐是单调的问题这一观点，我们提出了一种学习单调对齐的端到端可微方法，该方法在测试时可以在线和线性计算注意力。我们在句子摘要、机器翻译和在线语音识别问题上验证了我们的方法，并取得了与现有序列到序列模型相竞争的结果。
2021-06-29 09:09:27
1MB
变分不等式是一种统一的问题表述模式. 管理科学与统计计算中存在大量
凸优化问题. 信号处理, 图像恢复, 矩阵完整化, 机器学习等信息技术领域中也
有许多问题可以归结为（或松弛成）一个凸优化问题. 凸优化的一阶必要性
条件就是一个单调变分不等式. 在变分不等式的框架下研究凸优化的求解方
法, 就像微积分中用导数求一元函数的极值, 常常会带来很大的方便.
2021-06-17 10:07:37
348KB
1
2021届二轮复习 用导数研究函数的单调性极值最值 课时作业（全国通用）.doc
2021-06-07 14:02:13
112KB
在投影收缩算法的基础上提出求解混合拟单调变分不等式的自适应迭代算法算法的迭代步长在解的附近不趋于零,并且采用自适应技术,在算子单调的条件下,证明了其全局收敛性论文的新算法改进了相关文献中的已有结果。
2021-05-11 22:03:13
378KB
1
动态规划是求解最优化问题的一种方法；动态规划虽然空间复杂度一般较大，但时间效率可观。但是，动态规划在求解中也会存在一些不必要、或者重复求解的子问题，这时就需要进行进一步优化。
在NOI及省选赛场上，一般的裸动态规划可能难以达到所要求的时间效率。本文收录了在时间效率上动态规划的三大优化：四边形不等式，斜率优化，单调队列优化。另外，也收录了解决NP问题小规模求解中，优于搜索的状态压缩动态规划。
关键词：动态规划优化，四边形不等式，斜率优化，单调队列，状态压缩动态规划。
2021-04-20 15:06:33
771KB
1