【最適化】ラグランジュの未定乗数法とは何だろう？

Lagrangeの未定乗数法といわれる方法について、その使い方をまず説明します。よく経済学や最適化の分野で登場する重要な手法ですが、天下り的な感じがして理解しづらいです。

これは「等式制約条件付き極値問題」を「無制約な極値問題」へと変換する方法であると言えます。「等式制約条件付き極値問題」とは要する、に何らかの式が成り立つような条件のもとで、ある関数の最大値ないし最小値を探す問題です。この問題は制約がついているので解くには工夫が必要です。一方「無制約な極値問題」とはある関数の最大値ないし最小値を探す問題です。この問題は制約が無いので簡単です。ラグランジュの未定乗数法を使うと問題が簡単になるのです。

ではラグランジュの未定乗数法の使い方をまず例題を通して学びましょう。以下の問題を考えます（ありがちですが）。

$\displaystyle \begin{eqnarray} {\rm max} \;\; f(x,y) &=& x^2 + 3y^2 \\ {\rm subject \: to} \;\; g(x,y) &=& 3x + y +1=0 \end{eqnarray}$

ここで $\begin{eqnarray} {\rm max} \end{eqnarray}$ は「最大化しますよ」ということを表しています。一方 $\begin{eqnarray} {\rm subject \: to} \end{eqnarray}$ は「この制約条件を守ってね」ということを表しています。 $f(x,y)$ が最大化すべき関数で、 $g(x,y)=0$ が等式の制約条件です。気取って書いているだけです。等式の制約条件 $g(x,y)=0$ を満たし、 $f(x,y)$ を最大化するような $(x^*,y^*)$ （最適解）を求めよう、というのがこの問題です。

さてラグランジュの未定乗数法ではまずラグランジュ関数を

$\displaystyle \begin{eqnarray} L(x,y,\lambda) &=& f(x,y) + \lambda g(x,y) \\ &=& x^2 + 3y^2 +\lambda (3x + y +1) \end{eqnarray}$

と定義します。ここで $\lambda$ はラグランジュ乗数と呼ばれる新しい変数です。なんとラグランジュの未定乗数法ではわざわざ変数を増やすのです！天下り的な感じがしますね（私もしばらくそう思っていました）。これについては次の記事で解説しようと思うので、今回は使い方に集中してください。

最適解 $(x^*,y^*)$ はラグランジュ関数を用いて

$\displaystyle \begin{eqnarray} \frac{\partial L}{\partial x} &=& 2x^* +3\lambda = 0 \\ \frac{\partial L}{\partial y} &=& 6y^* +\lambda = 0 \\ \frac{\partial L}{\partial \lambda} &=& 3x^* + y^* + 1= 0 \end{eqnarray}$

という連立方程式の解で与えられます。これは簡単に解けて