求约束条件下极值的拉格朗日乘子法
发布日期:2021-10-07 11:13:27 浏览次数:2 分类:技术文章

本文共 2388 字,大约阅读时间需要 7 分钟。

1、对于无约束条件的函数求极值,主要利用导数求解法

例如求解函数f(x,y)=x3-4x2+2xy-y2+1的极值。步骤如下:

(1)求出f(x,y)的一阶偏导函数f’x(x,y),f’y(x,y)。

f’x(x,y) = 3x2-8x+2y

f’y(x,y) = 2x-2y

(2)令f’x(x,y)=0,f’y(x,y)=0,解方程组。

3x2-8x+2y = 0

2x-2y = 0

得到解为(0,0),(2,2)。这两个解是f(x,y)的驻点。

(3)求出f(x,y)的二阶偏导函数f’’xx(x,y),f’’xy(x,y),f’’yy(x,y)。

f’’xx(x,y) = 6x-8

f’’xy(x,y) = 2

f’’yy(x,y) = -2

(4)确定驻点处的二阶导数值及判断相关符号。

根据二元函数极值存在定理(见后面的附注):

A=f’’xx(0,0) = -8,B=f’’xy(0,0)=2,C=f’’yy(0,0)= -2

B2-AC=-12,所以(0,0)是极大值点,极大值为f(0,0)=1

A=f’’xx(2,2) = 4,B=f’’xy(2,2)=2,C=f’’yy(2,2)= -2

B2-AC=12,(2,2)不是极值点。

(5)因此f(x,y)=x3-4x2+2xy-y2+1的极大值为1

  2、 那么对于有约束条件的函数怎样求极值呢?

还是上面的函数f(x,y)=x3-4x2+2xy-y2+1,在约束条件x+y=7下极值?

拉格朗日乘子法就是求有约束条件的函数极值问题的方法。主要思想是将约束条件函数与联系到一起,使能配成与变量数量相等的方程,从而求出得到原函数极值的各个变量的解。其一般描述为:

 

目标函数:f(x,y) 

约束条件:g(x,y)=0 
求解f(x,y)在约束条件g(x,y)=0下的极值。 
定义拉格朗日函数 : 
L(x,y,λ) = f(x,y)+ λ·g(x,y) 
L(x,y,λ)分别对x,y,λ求偏导数,令偏导数为零。

求出x,y,λ的值,代入f(x,y) 即可得到目标函数的极值。

       举个实际应用中的例子:要设计一款箱子,其容积(体积)有限定,如27升(即27000立方厘米),求其表面积的极值?

使用数学表达式就是:箱子长、宽、高分别为x,y,z,单位为厘米,表面积函数为f(x,y,z)=2xy+2xz+2yz,求f(x,y,z)在约束条件g(x,y,z)=xyz-27000=0下的极值?

 (1)定义拉格朗日函数: 

L(x,y,z,λ)=f(x,y,z)+ λ·g(x,y,z)=2xy+2xz+2yz+ λ·(xyz-27000)
 (2)L(x,y,z,λ)分别对x,y,z,λ求偏导数,令偏导数为零:

2y+2z+λyz=0,2x+2z+λxz=0,2x+2y+λxy=0,xyz-27000=0

 (3)求出x,y,z,λ的值:

联立方程,得到x=y=z=30,λ=-2/15

代入f(x,y,z) 即可得到目标函数的极值为f(30,30,30)=2*30*30+2*30*30+2*30*30=5400平方厘米。这个是极值,但还不知道是极大值还是极小值,用满足xyz=27000的另一组数,x=30,y=15,z=60计算下,f(30,15,60)=6300平方厘米。

所以f(30,30,30)=5400平方厘米是极小值,即箱子体积一定的情况下(27000立方厘米),x=y=z=30时,表面积最小。

  3、 再举个吴军在《数学之美》中的例子:

2014年世界杯决赛圈32强,谁夺得冠军的信息熵为:

H=-(p1·logp1+p2·logp2+...p32·logp32)

其中,p1,p2,...,p32分别是这32强球队夺冠的概率。

吴军在书中给出H的值不可能大于5,即H≤5,但没有给出证明。

这里利用拉格朗日乘子法证明下:

根据概率论,p1+p2+...+p32=1。这就是约束条件。

目标函数:f(p1,p2,...,p32)=-(p1·logp1+p2·logp2+...p32·logp32)

约束条件:g(p1,p2,...p32)=p1+p2+...+p32-1=0

   (1)定义拉格朗日函数: 

L(p1,p2,...,p32,λ)=-(p1·logp1+p2·logp2+...p32·logp32)+ λ·(p1+p2+...+p32-1)
   (2)L(p1,p2,...,p32,λ)分别对p1,p2,...,p32,λ求偏导数,令偏导数为零:

    λ-log(e·p1)=0

    λ-log(e·p2)=0

    ......

    λ-log(e·p32)=0

    p1+p2+...+p32-1=0

(4)求出p1,p2,...,p32的值:

联立方程,得到p1=p2=...=p32=1/32

代入f(p1,p2,...,p32) 即可得到目标函数的极值为f(1/32,1/32,...1/32)=-((1/32)·log(1/32)+(1/32)·log(1/32)+...(1/32)·log(1/32))=-log(1/32)=log32=5

4、补充:香农熵

集合信息的度量方式成为香农熵或者简称为熵(entropy)。熵是表示随机变量不确定性的度量。是度量样本信息和纯度最常用的一种指标。

  • 多个分类中,某一分类样本信息: 

    image.png 
    p(xi):是该分类的概率。

  • 香农熵:算所有类别所有可能值包含的信息期望值(数学期望) 

    image.png

  • n是分类的数目

5、附:二元函数极值判定条件

(x0,y0)为驻点,设f’’xx(x0,y0) = A,f’’xy(x0,y0) = B,f’’yy(x0,y0) = C。则:

B2-AC

f(x0,y0)

< 0

A < 0

极大值

A > 0

极小值

> 0

非极值

=0

不定

转载地址:https://blog.csdn.net/mingyuli/article/details/81214291 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!

上一篇:信息熵到底是什么
下一篇:联合概率、边际概率、条件概率

发表评论

最新留言

逛到本站,mark一下
[***.202.152.39]2024年03月17日 20时20分59秒

关于作者

    喝酒易醉,品茶养心,人生如梦,品茶悟道,何以解忧?唯有杜康!
-- 愿君每日到此一游!

推荐文章

lj245a引脚功能图_谁找到74254,74LS245芯片引脚的功能和功能图啊? 2019-04-21
sts 创建webservice项目_通过eclipse将Java生成webservice | 学步园 2019-04-21
python数字字符串和数字相加_数字和字符串 2019-04-21
python风控模型举例_一文搞定风控模型6大核心指标(附代码) 2019-04-21
java arraylist 写入文件_java-将自定义对象的ArrayList写入文件 2019-04-21
ice glacier2 java_ICE提纲之demo/Glacier2/callback(跨网回调) 2019-04-21
java 转发上传文件_java 后台请求其他接口转发文件 2019-04-21
Java get set 同步_java – getResultSet()“每个结果只能调用一次” 2019-04-21
java jmx 配置_为什么在配置JMX时Java打开3个端口? 2019-04-21
java thread回调_使用Runnable在Java中实现回调 2019-04-21
java 内存区_Java内存模型和Java内存区域的区别和联系? 2019-04-21
java定时任务监控_Spring定时任务使用及如何使用邮件监控服务器 2021-06-24
java crc32 使用_Java CRC32的用法 2021-06-24
java读取unicode_java怎么样将unicode解码读取?Java读取本地文件进 2021-06-24
java.io.file()_Java File getUsableSpace()方法 2021-06-24
java httpclient 工具_spring整合httpClient工具类 2021-06-24
java监控其他服务器运行状态_windows服务器监控多个tomcat运行状态 2021-06-24
java给学生按总成绩排名_java - 输入学生成绩,取它们的平均值,然后通过排名等级的学生 - SO中文参考 - www.soinside.com... 2021-06-24
java构造函数有什么用_java构造函数有什么用,怎么用 2021-06-24
mysql 匹配 隔开的_按空格分隔关键字并搜索MySQL数据库 2021-06-24