第８回輪講 2011.06 .28 ( 火 )

第８回輪講2011.06.28 (火) 慶應義塾大学理工学部管理工学科４年曹研究室　 60803571 遠藤健司

今週やったこと • 非線形計画法 • ラグランジュ緩和問題 • 双対問題 • 不等式制約のある最適化問題最適性 • KKT条件 • 制約条件のない最適化問題の最適性 • 最急降下法

参考にした書籍 • 「数理計画法の基礎」 • 坂和正敏　著 • 森北出版（株）（1999,初版） • 「数理計画法」～最適化の手法 • 森哲夫　著 • 共立出版（株）（1994,初版）

非線形計画問題 主問題主問題の目的関数をラグランジュ関数に置き換えることで、満足すべき制約条件が緩くなり、解き易くなる。（緩和問題） →ラグランジュ緩和問題ラグランジュ緩和問題ラグランジュ乗数ラグランジュ乗数と、対応する主問題の制約関数との積の和に、目的関数を加える。 →ラグランジュ関数　　　　を　で最適化したもの →双対関数ラグランジュ関数双対関数

双対問題 双対問題（ラグランジュ双対問題）但し、主問題が与えられた場合、これとペアになる問題である、双対問題が必ず存在する。しかし、主問題の最適解に対する最適値と、双対問題の最適解に対する最適値が等しくなるとは限らない。 →弱双対定理・・・① また、双対関数の定義より、・・・② 式①、②より、主問題の最適解 →弱双対定理双対問題の最適解これらの値をラグランジュ関数に代入する。　　　　　　　　の場合、双対ギャップが存在する。

凸計画問題 双対ギャップが存在しない非線形計画問題 →凸計画問題凸計画問題 →凸関数 →凸関数 →一次関数 →凸集合

制約条件のない最適化問題に対する最適性の条件制約条件のない最適化問題に対する最適性の条件制約条件のない非線形計画問題定理：局所的最適性の必要条件　　　　　のとき、　が制約条件のない最適化問題の局所的最適解であるための必要条件は　　　　　　　　が成立することである。大域的最適解定理：局所的最適性の２次必要条件　　　　　のとき、　が制約条件のない最適化問題の局所的最適解であるための必要条件は　　　　　で、しかも　　におけるヘッセ行列　　　　が半正定　　　　となることである。局所的最適解定理：凸関数の最適性の必要十分条件が　　上で微分可能な凸関数とするとき、　が制約条件のない最適化問題の大域的最適解であるための必要十分条件は、　　　　　が成立することである。

不等式制約条件のある最適化問題に対する最適性の条件不等式制約条件のある最適化問題に対する最適性の条件不等式条件のある非線形計画問題定理：凸計画問題の最適性の条件不等式条件のある非線形計画問題の制約集合が凸集合で、目的関数が凸関数であれば、その局所的最適解は大域的最適解であり、最適解の集合は凸集合である。不等式制約式による制約集合不等式条件のある非線形問題の実行可能解活性制約式（　　　　　）の添字集合　　　が全て凸関数であれば、は凸集合となる。

Kuhn-Tucker,KKT 条件 定義：線形独立制約想定（正規条件）先述の非線形計画問題の制約関数　　　　は全て　　級の関数で、　　　とする。このとき、　　　　における勾配ベクトル　　　　　　　　　が線形独立であれば、制約関数　　　は　　　　で線形独立制約想定を満たすという。 Kuhn-Tucker,KKT 条件 →相補条件定理：凸計画問題に対する最適性の十分条件不等式条件のある非線形計画問題において、　　　　　　　　　　　が全て凸関数の時、（つまり、凸計画問題の時）において、KKT条件を満たしていれば、　は大域的最適解　　となる。 →ラグランジュ乗数の存在を保証する。級の関数局所的最適解

降下法 KKT条件を満たすラグランジュ乗数　　が存在すると仮定した場合、KKT条件を満たす　　はラグランジュ関数　　　　の最小値を与える。 →ラグランジュ緩和問題の最適解となる。（凸計画問題の場合）では、非線形計画問題が凸計画問題ではなかった場合は・・・ある初期点から出発して、目的関数　　の値を次々と減少させるようなの点列、　　　　　　　　　　となるような点列　　を系統的に生成する。 →降下法現在の点方向ベクトル　はあるステップ幅に対して、　　　　　　　　を満たす必要がある。（　　：降下方向）またステップ幅　　　　は一次元探索問題を解くことで求められる。次の新しい点方向ベクトルステップ幅更新公式

最急降下法 目的関数の微分可能性を仮定すると、テイラーの定理より、であるため、方向ベクトル　は　　　　　　を満たせば降下方向になる。 • 降下法のアルゴリズム • 初期点　　を選び、　　とする。 • 現在の点　　において停止基準をみたせば終了、そうでない場合は降下方向　をもとめる。 • 一次元探索問題を解き、ステップ幅　　をもとめ、　　として、手順2.へ戻る。降下方向　を勾配ベクトル　　　を用いて、　　　　　　とすることにより、　の近傍で　　を最も急激に減少させる最急降下方向に選ぶ手法 →最急降下法 ※　停止基準：

一次元探索問題の最小値が正確に求められた場合一次元探索問題の最小値が正確に求められた場合　は　　　　と直交するので、新しい方向ベクトル　　　　　　　はこれまでに得られている全ての方向ベクトルと直交する。等高線が超球（二次元の場合は円）となる関数の場合、一回の探索で最小点に到達できる。しかし、それ以外の等高線が偏心しているよう一般の関数では、最小点の近傍での探索でジグザグになり、効率のよい探索方法とは言えない。

2変数の2次関数に対する最急降下法 初期点を　　　　とする。なので、　より、二次関数に対する一次元探索問題の最適ステップ幅は、となるので、αに関する式に変換すると、最適ステップ幅が解析的に与えられる。

よって、 同様にしてx3を求めると、となり、点列　　は右図のように２つの直線上の値を交互に取りながら、最適解　　　　　に近づいていく。

次回 • 論文に戻る • 「A Paradigm for the Scheduling of a Continuous Walking Beam Reheat Furnace Using a Modified Genetic Algorithm」 • Jonathan S. Broughtona, MahdiMahfoufb* & Derek A. LinkensbMaterials and Manufacturing Processes • Volume 22, Issue 5, 2007 • An Optimal Scheduling Algorithm for Reheating Furnace in Steel Production • NING Shu-shi,WANGWei,LIU • Control and Decision2006-10

第８回輪講 2011.06 .28 ( 火 )