非线性规划

目标函数是非线性函数或约束条件不全是线性等式(或不等式)的一类数学规划,即在问题

中,若?(尣)为非线性的,或Ω不能用线性(不)等式表出,则此规划问题就称为线性规划问题。由于问题的这种描述过于广泛,使得难于得到任何有深刻意义的结果。同时,对于某些特殊类型的Ω(例如Ω中点的坐标仅限于取某些整数值),需要特殊的方法去处理因而形成了一些独立的分支。非线性规划问题一般取如下的形式:

这里g(尣)=(g1(尣),g2(尣),…,gm(尣))为一给定的m维向量实函数,g(尣)≤0表示它的所有分量皆不大于0,G为一给定的凸域,在多数情况下,Ω={尣∈Rng(尣)≤0,尣∈G}称为问题(P)的约束集,Ω中的点称为问题的可行解。若ΩRn,则此规划称为无约束规划,否则称为带约束规划。非线性规划主要包括以下四个方面的内容。

算法

?(尣) 和Ω给定时,如何求出一个(或多个)点尣*Ω,使得?(尣*)≤?(尣)对所有尣∈Ω成立,是研究非线性规划的主要目的。因此,寻求能找出此尣*的算法便成为非线性规划研究的核心。目前尚未出现可以用来解决所有非线性规划问题的任何算法,算法的研究将是一个长期的课题。一般的算法都是迭代算法。除了某些特殊情况之外,求解的过程是一种无限过程,即逐渐逼近于所求的解。为了要判断一个算法所产生的点或所产生的极限点是否为所给问题的解,从而导致寻求解的充分必要条件。

充分必要条件

对一般的约束非线性规划问题:

设函数?gihj都是一阶可微函数,是一可行解。如果梯度和墷hj()(j=1,2,…,l)线性无关,那么是一个局部极小点的必要条件为:存在u1u2,…,umv1v2,…,vl,满足条件

这一组条件称为库恩-塔克尔条件,又称为一阶必要条件。它是由H.W.库恩和A.W.塔克尔于1951年提出的。但是在凸性假设下,它又是充分条件。

库恩-塔克尔条件对于任意一个局部极小点并不一定成立。约束规格,是指约束条件在局部极小点处具有使库恩-塔克尔条件成立的性质。例如上述的“梯度墷gi()和墷hj()是线性无关 (IIj=1,2,…,l)”, 就是一种约束规格。此外,还有其他类型的约束规格。若gihi都是线性函数,则无需任何约束规格,此时库恩-塔克尔条件对于任意的局部极小点都成立。较之库恩-塔克尔条件为弱的必要条件是弗里茨·约翰条件,即对于局部极小点存在不全为零的数u0uivj,满足条件

式中?gihj均为一阶可微函数。F.约翰在1948年提出这个条件,由于他没有考虑约束规格,因此他的条件中,主要参数u0可能为零而使此条件失效。

对于不可微的凸规划,有推广的库恩-塔克尔条件。在推广库恩-塔克尔条件时需要引入次梯度的概念。设?Rn中的凸函数,若向量ξ满足,则向量ξ称为凸函数?在点尣0处的一个次梯度。函数?在尣0处的次梯度不一定是惟一的。若凸函数?在尣0处可微,它在尣0的次梯度即等于它在尣0的梯度墷?(尣0)。对于不可微的凸规划

式中?gi都是凸函数。设gi满足斯雷特约束规格:存在一点尣0,使得gi(尣0)<0,i=1,2,…,m。则可行点是凸规划的极小点的充分必要条件是存在数u1u2,…,um?处的次梯度ξgi处的次梯度ξii=1,2,…,m,满足条件i=1,2,…,m

对偶问题

是指根据 (P)中的数据建立起来的一个与所给的问题(P)伴随的问题(P*)。 (P)与(P*)之间有如下的关系:

(1)若(P)是求目标函数?(尣)的极小(大)值,则(P*)是求某一目标函数l(у)的极大(小)值;

(2)对于(P)与(P*)的可行解尣与у,常有?(尣)≥l(у)(?(尣)≤l(у));

(3)(P)与(P*)在x*与у*取最优值的充分必要条件是l*)=?(尣*)。

对于所给定的(P),能满足上述三种性质的(P*)一般并不是惟一的。因此就存在构造(P*)的不同途径。目前研究对偶性主要有两条途径。

其一是利用拉格朗日乘子。例如线性规划(P):已知其对偶问题(P*)是是(P)的拉格朗日函数,则(P,P*)显然分别等价于以下两个极值问题

这里,I(I*)中之min(max)只限于就(或)之尣(或у)来取。

一般,令作(P)的拉格朗日函数则(P)即等价于

其对偶问题为

更一般言之,设φ(尣,у)为定义在X×Y上的实函数,于此,XRnYRm。作则(P):分别称为原规划和对偶规划。不难证明,若XY皆为紧致凸集,φ(尣,у)在X×Y上为连续,且对于固定的у∈Y(尣∈X),φ(尣,y)为X(Y)上的凸(凹)函数,则上述性质①、②、③皆成立。

其二是利用共轭函数。若?(或l)为定义在凸集CRn(DRn)上之凸(凹)函数,则称?(或l)的凸(凹)共轭函数。记,则(P):即互为对偶。实际上,性质①与②是显然成立的。 至于③,则有下面定理:设CD有公共内点,且为有限,则存在,使得

上述两条途径皆得到了深入的发展,特别是R.T.洛卡费勒基于增广拉格朗日函数发展了一般的对偶理论

研究对偶理论的目的主要有三:一是某些实际问题,特别是某些经济问题,其中所出现的某些现象用对偶理论容易得到解释;二是可以利用它来帮助求解原问题;三是判定原问题是否有解。例如,有时(P*)比(P)容易得到解决,利用性质③即可得出?(尣)的极值;性质②有助于求?(尣)的下界。这一点在分枝定界法中常用到。对偶问题的出现是相当普遍的。数学规划中的许多分支,例如整数规划参数规划、模糊规划等皆有类似的问题和不同深度的处理。

稳定性

一个数学规划问题已经给定,意即?(尣)和Ω已经用某种关系和数据具体表出。所谓稳定性,是指当这些数据作微小变动时问题的解所受到的影响的程度。关于这类问题的研究也称为灵敏度研究。参数规划就是这类问题的一个扩充。

形如的规划称为参数规划,式中的是参数。对于一个给定的zZ,就得出一个具体的数学规划。参数规划的研究目的之一,就是要在Z中求出一个子集Z┡,使得Op(z)对所有的zZ┡具有某种给定的性质。例如要在Z中求出使得Ω(z)非空的z所成之集,使得Op(z)为可解的z所成之集(即存在尣*Ω(z),使得?(尣*z)=Op(z)),以及使得Op(z)的解集是具有某种共同给定的结构的z所成之集,等等。求解参数规划Op(z)(zZ)是指寻求Z中的一个子集,对于其中的zOp(z)成为一个关于某种性质是不变的数学规划问题。参数规划的研究内容主要包括以下几个方面:解的稳定性问题;解对于初始数据的依存关系;初始数据依某种方式具有不确定性的问题(例如,某些量只知其属于某一区间、某些量是随机变量,等等);在一类数学规划问题中,寻求其中容易解决者;寻求可以用来处理和衡量其他最优化问题的辅助手段;研究某些问题类的一般性质,并发展一般性的方法,等等。

非线性规划是极值理论的一部分。早在17世纪P.de费马提出如下的问题:对于平面上给定的三点,要作一点使其与这三点的距离之和为最小。它的对偶问题:过所给三点作一最大的等边三角形,也早在18世纪初即已提出,并证明了这两问题之间存在对偶关系。

对具有等式约束的非线性规划的解应满足的必要条件的研究,可上溯到L.欧拉和J.-L.拉格朗日时代。W.卡鲁什在1939年开始了对具有不等式约束的非线性规划的类似问题的研究,但由于他的工作没有正式发表,同时由于当时计算机尚未出现,数学规划不能在生产实际中产生影响,这项工作便湮没无闻。非线性规划的发展是由于线性规划的出现而引起的。1951年H.W.库恩和A.W.塔克尔的研究工作,虽是重复了W.卡鲁什的结果,但可以看作是非线性规划理论工作的先驱。这组条件更合适的名称应该是卡鲁什-库恩-塔克尔条件。

参考书目
  1. M.阿弗里耳著,李元熹等译:《非线性规划──分析与方法》,上海科学技术出版社,上海,1979。(M.Avriel,Nonlinear Programming-Analysis and Methods, Prentice-Hall,Englewood Ciffs,New Jersey,1976.)