地区:上海市 宝山区
关键词:广西大学
成果类型:其它
成果领域:生物与新医药
成果编号:A2021061000003711
成果描述:
非线性优化问题不仅涉及数学的理论知识,还是实际工程领域的一个重要问题,在数值天气预报、石油勘探、计算生物化学、管理科学以及工程优化和控制领域等方面均有较强的应用背景,在当今国际学术界和实际应用领域广受关注,已成为众多学科发展的共性问题。该项目研究了非线性光滑与非光滑优化问题以及非线性方程组问题,得到了一些创新性成果,获得一些高效、良好收敛性和数值表现优越的新算法。研究内容列举如下:非线性共轭梯度方法:(1)提出了一个新的HS 共轭梯度算法,该算法同时拥有梯度值信息和函数值信息,课题组获得了不需要任何条件的充分下降性以及对一般函数的全局收敛性,数值表现更为优越,其结果超出了现有的最新成果算法;(2)创造了修正的PRP 方法,该方法成果性质与(1)比较类似,效果同样超出了上面通常的共轭梯度方法。这些成果的获得,将进一步促进共轭梯度的发展。拟牛顿方法方面:提出了非精确的BFGS 方法,该方法拥有良好的性质:全局收敛性和超线性收敛性,该方法关键创新点在于成功应用于回归分析问题,数值表现优于现有的回归分析软件的结果,这使得优化方法的应用前景更为广阔,将会不断更新现有的软件程序;BFGS方法与信赖域方法结合求解问题,为了进一步拓宽信赖域方法和拟牛顿方法的应用范围及其应用效率,课题组进行了大胆的探讨,将两者结合起来,成功应用于非光滑分析,两者结合后的的方法不但拥有好的数值表现,更有良好的收敛性:全局收敛性和超线性收敛性,超线性的收敛性对于非光滑问题很关键,因为一般方法很难满足,数值表现优越。非线性方程组方面:提出新的有限记忆BFGS 方法,充分利用有限记忆拟牛顿方法需要存储量小的优点,成功将其应用于大规模非线性方程组问题,建立了算法的全局收敛性,并获得大规模问题的数值检验,结果超出了通常的BFGS 方法;利用超松弛性质的有限记忆BFGS方法,该方法在设计时充分考虑松弛技术的使用,是的方法的数值表现更为优越。超松弛技术一般是在偏微分方程中使用,这是课题组首次将其应用于最优化方法中,这也将使得优化方法使用技巧扩展,不仅限于传统模式,要与其他学科进行结合使用。非光滑优化问题方面:首次成功求解万维以上的非光滑优化问题,非光滑优化在工业、金融、工程、物理学和化学等不同领域都有广泛的应用背景,是非常难解的问题之一。求解非光滑问题的经典方法有牛顿法、拟牛顿方法、投影梯度法和信赖域方法等,这些方法的理论体系已比较成熟,但有共同的不足之处:算法的程序很难实现,且一般情况下只对低维数问题有效(几维到几十维之间),维数稍大一些运行效率就很低甚至没法运行;需要计算次梯度,可次梯度的求解非常困难且可操作性差。为克服上述缺点,使得大规模非光滑问题能成功求解,课题组设计了新的共轭梯度方法来求解该问题,新方法有下述优点:充分利用了共轭梯度法结构简单、存储量小和容易实现的特点;结合Moreau-Yosida(M-Y)正则化技术,克服了计算次梯度的不足;新方法自动具有充分下降性和信赖域的性质,保证了全局收敛性;利用Fortran语言编译算法程序,5万维的大规模问题能快速求解,之前的最有效算法只能求解1000维问题,新方法求解效率提高了50倍。该论文成果于2014年正式发表 (Yuan, Wei, and Li, JCAM, 255(2014), ESI Journal),成果出版后,得到国内外同行的广泛关注和积极反映,于2016年初入选了ESI全球 Top 0.1% “热点论文”。 |