如何理解拉格朗日乘子法

问题引出，与原点最短距离

假设有方程

对应图像如下：

现在我们想求其上的点与原点的最短距离：

这里介绍一种解题思路。首先，与原点距离为 的点全部在半径为 的圆上：

那么，我们逐渐扩大圆的半径：

显然，第一次与 相交的点就是距离原点最近的点：

此时，圆和曲线相切，也就是在该点切线相同：

至此，我们分析出了：在极值点，圆与曲线相切！

问题延伸：等高线

为了继续解题，需要引入等高线。这些同心圆：

上图可看做是 的等高线

根据梯度的性质，梯度向量：

是等高线的法线：

另一个函数 的等高线是：

其中 就是其中值为3的等高线：

因此，梯度向量：

和曲线 是垂直关系：

梯度向量是等高线的法线，更准确地表述是：梯度与等高线的切线垂直！

拉格朗日乘子法

求解

根据之前的两个分析：

综合可知，在相切点，圆的梯度向量和曲线的梯度向量平行：

也就是梯度向量平行，用数学符号表示为：

其中 表示乘以合适的系数使方程左右相等。

还必须引入 这个条件，否则这么多等高线，不知道指的是哪一根：

因此联立方程：

展开：

三元二次方程，求解可得：

定义

要求函数 f 在 g 约束下的机制这种问题可以表述为：

意思是subject to，服从于，约束于的意思。

可以列出方程组求解：

用这个定义来翻译下刚才的例子，要求：

求

联立方程进行求解：

变形

这个定义还有种变形也比较常见，要求：

定义：

求解下面方程组即可得到答案：

把等式左边的偏导算出来就和上面的定义是一样的了：

求解结果是：

和上面的求解结果略有差异， 是引入的，正负无关紧要，只需要将g(x,y)调整一下即可