关键词:
稀疏问题
深度展开网络
迭代优化算法
DenseNet
压缩感知
常微分方程
lp范数正则
摘要:
稀疏问题是在现实生活应用十分广泛的一类问题,已经有很多解决各种实际应用问题中稀疏问题的传统优化算法以及深度网络的方法,例如,图像去噪、图像修复、图像超分辨等等。传统优化算法具有高度可解释性但低性能的特点,而一般的深度网络方法具有高性能但其可解释性却较为缺乏。近年来,深度展开网络由于能够有效结合传统优化以及深度网络的优点,逐渐成为关注度高的一类方法。在传统优化启发下,本文主要从以下三个方面对求解稀疏问题的深度展开网络进行研究:1.虽然近年来深度展开网络的研究发展十分迅速,有一系列相关的深度展开网络被提出,但通过整理调研发现,目前现有的大部分深度展开网络都是类似层层串联的简单结构。因此,受传统优化算法,优化梯度方法OGM的启发,本文将深入分析后得到的传统优化算法展开,提出了创新的具有稠密连接的深度展开网络DLISTA,并将其与深度网络中经典的Dense Net建立联系,为原本缺乏可解释性的Dense Net提供一定的可解释性。此外,为了得到具有良好性能以及相对简化的结构的网络,本文也提出了分块结构的DBLISTA网络,并通过实验验证了其解决稀疏问题的高效性能。2.深度展开网络能够为深度网络提供可解释性,而常微分方程也常被用于解释深度网络。本文对深度展开网络进行推导,将其改写为求解一阶常微分方程的欧拉数值方法的一步,成功地建立起深度展开网络与常微分方程的系统性联系。此外,通过引入经典的求解常微分方程的高阶数值方法―线性多步法,本文提出一个可以应用于任意单变量深度展开网络的高阶数值架构HNO,并将这一创新的架构应用于一些经典的深度展开网络中,提出了一系列创新的、具有良好网络性能的深度展开网络,并从理论和实际实验多个方面验证了HNO能够对现有的深度展开网络进行提升。3.在深度展开网络中,阈值函数也起到重要作用。目前大多数深度展开网络中使用的阈值函数是求解l范数正则问题的软阈值函数。但这一函数并不一定能够确保解的稀疏性。因此,本文引入非凸的l范数正则,并基于这一正则函数设计了一种自适应求解阈值函数中的阈值的方法PAT。此外,为了进一步增进提出的自适应阈值方法求解阈值的精确度,本文也为PAT方法提出两个不同的设置超参数的策略,并提出两个改进版本的自适应阈值方法。最后,本文通过大量的多种类别的实验验证了所提出的一系列自适应阈值方法的有效性。