时间:2016-02-02 11:50 文章来源:http://www.lunwenbuluo.com 作者:董立立,赵益萍,梁林 点击次数:
鲍威尔法由MJDPwel于1964年提出,并由他本人改进,属于共轭方向法。该方法直接利用函数值逐次构造共轭方向,并在改进的算法中增加了判断原方向组是否需要替换和哪个方向需要替换,保证了共轭方向的生成,具有二次收敛性,收敛速度快,可靠性好,但编程较复杂,适用于维数较高的优化问题,是直接搜索法中最为有效的算法之一。
2.3.2无约束间接法
无约束间接法是利用函数性态,通过微分或变分进行求优,主要有梯度法、牛顿法、共轭梯度法、变尺度法等。
梯度法的优点是概念清楚、方法简单、可靠较好、计算量小,函数值稳定下降,且对初始点要求不严格;缺点是要求目标函数必须具有一阶偏导数,并需计算,迭代点离最优点远时函数值下降快,越接近最优点收敛速度越慢[13],且迭代次数与目标函数的性态关系较大,等值线所形成的椭圆族越扁迭代次数就越多。梯度法是导出其他更为实用、有效的优化方法的理论基础,适用于复杂函数的初始搜索,多用于精度要求不高的场合。
牛顿法对初始点要求不严格,具有二次收敛性,最优点附近的收敛速度极快,对于正定二次函数的寻优,迭代一次即可达到极小点;缺点是要求目标函数必须有一阶、二阶偏导数及海森矩阵非奇异且正定或负定,需要计算一阶、二阶偏导数及海森矩阵的逆有一阶、二阶偏导数,海森矩阵非奇异,维数不太高的场合共轭梯度法是Fleche和Reeve吁1964年提出的,仅需计算函数的一阶偏导数,编程容易,准备工作量比牛顿法小,收敛速度远超过梯度法,但有效性比DFP(变尺度)法差。共轭梯度法在第一个搜索方向取负梯度方向,而其余各步的搜索方向将负梯度偏转一个角度,即对负梯度进行修正,实质上是对最速下降法的改进,适用于维数较高(50维以上)、一阶偏导数易求的优化问题。
变尺度法由WCDaVdon于1959年提出,RFleche和MJDPwel吁1963年对之进行了改进,又称DFP法。DFP综合了梯度法和牛顿法的优点,对初始点要求不高不必计算二阶偏导数矩阵及其逆阵,收敛速度快、效果好;缺点是需计算一阶偏导数,且由于舍入误差和一维搜索的不精确等原因,数值稳定性仍不够理想,有时因计算误差引起变尺度矩阵奇异而导致计算失败。BroydnFlechrGOdsteiijSham(等于1970年提出了更具数值稳定性的BFGS变尺度法,适用于求解维数较高(10-50维)、具有一阶偏导数的无约束优化问题,被认为是目前最成功的变尺度法[17]。
联系方式
随机阅读
热门排行