有限集合 上の次の最適化問題 を考える。
の最適値を とする。不等式制約 だけを乗数 で緩和したラグランジュ関数を とし、双対関数を 、双対問題の最適値を とする。双対ギャップ を求めよ。
非凸・整数の問題の双対ギャップ
有限集合や箱型集合の上の非凸問題について、双対関数 を区分的な式(一次関数の最小など)として表して最大化し、主問題の最適値と比べて双対ギャップ を求められる
前提
- ラグランジュ双対関数と弱双対性 (大学院数学 凸最適化・組合せ最適化)
この技能までの道筋(65 技能)
読み込み中…
右端(太枠)がこの技能です。左へドラッグすると、さらに前の前提をさかのぼれます。技能を押すと、そこまでの道筋が光ります。
一覧で見る(前提が先)
- 分数のたし算・ひき算 (算数 計算と数のきまり)
- 小数の四則計算 (算数 計算と数のきまり)
- 正負の数の加法・減法 (中学数学 数と式)
- 分数のかけ算・わり算 (算数 計算と数のきまり)
- 四則の混じった計算の順序 (算数 計算と数のきまり)
- 正負の数の乗除・累乗と四則混合 (中学数学 数と式)
- 分配法則を使った計算のくふう (算数 計算と数のきまり)
- 文字式の計算(同類項・分配法則) (中学数学 数と式)
- 乗法公式による展開 (中学数学 数と式)
- 因数分解 (中学数学 数と式)
- 3 次式までの展開と因数分解 (数学I 数と式)
- 微分係数と導関数の定義 (数学II 微分法と積分法)
- 多項式の微分 (数学II 微分法と積分法)
- 等間隔にならんだ数の和 (算数 計算と数のきまり)
- 等差・等比数列の和と Σ (数学B 数列)
- 数列の極限 (数学III 極限)
- 関数の極限 (数学III 極限)
- 積と商の微分 (数学III 微分法)
- 合成関数の微分 (数学III 微分法)
- 偏微分と全微分 (大学数学 微分積分)
- 小数と分数のまじった計算 (算数 計算と数のきまり)
- 逆算(□ を求める) (算数 計算と数のきまり)
- 1 次方程式の解き方 (中学数学 方程式)
- 比例・反比例の式とグラフ (中学数学 関数)
- 約数の見つけ方 (算数 整数の性質)
- 素因数分解と約数の個数 (算数 整数の性質)
- 平方根の意味と根号の簡単化 (中学数学 数と式)
- 関数 の式と変域 (中学数学 関数)
- 平方完成と 2 次関数のグラフ (数学I 2次関数)
- 2 次不等式 (数学I 2次関数)
- 剰余の定理・因数定理と高次方程式 (数学II 複素数と方程式)
- 増減表と極値 (数学II 微分法と積分法)
- 第 2 次導関数とグラフの凹凸 (数学III 微分法)
- 2 変数関数の極値 (大学数学 微分積分)
- ラグランジュの未定乗数法 (大学数学 微分積分)
- 三角形の角の大きさ (算数 平面図形)
- 対頂角と平行線の同位角・錯角 (中学数学 平面図形)
- 三角形の外角と角の組み合わせ (中学数学 平面図形)
- 二等辺三角形の角 (中学数学 平面図形)
- 平行四辺形と特別な四角形の性質 (中学数学 平面図形)
- 三角形・四角形の面積 (算数 平面図形)
- 三平方の定理 (中学数学 相似と三平方の定理)
- 折り返した図形の角と長さ (中学数学 平面図形)
- 三平方の定理と平面図形 (中学数学 相似と三平方の定理)
- ベクトルの演算と成分 (数学C ベクトル)
- 行列の和・積と 2 次の逆行列 (大学数学 線形代数)
- 掃き出し法と連立 1 次方程式 (大学数学 線形代数)
- 最大公約数と最小公倍数 (算数 整数の性質)
- 比の性質と簡単な比 (算数 割合と比)
- 相似な三角形と長さの比 (算数 平面図形)
- 三角形の相似条件と対応する辺の長さ (中学数学 相似と三平方の定理)
- 平行線と線分の比 (中学数学 相似と三平方の定理)
- 2点間の距離と内分点・外分点 (数学II 図形と方程式)
- 円の方程式 (数学II 図形と方程式)
- 連立方程式の解き方(加減法・代入法) (中学数学 方程式)
- 1 次関数の式の求め方 (中学数学 関数)
- 直線の方程式 (数学II 図形と方程式)
- 不等式の表す領域 (数学II 図形と方程式)
- 点と直線の距離 (数学II 図形と方程式)
- 円と直線の位置関係と弦の長さ (数学II 図形と方程式)
- 2直線の平行・垂直 (数学II 図形と方程式)
- 円の接線 (数学II 図形と方程式)
- 領域における最大・最小 (数学II 図形と方程式)
- 線形計画の双対定理 (大学院数学 凸最適化・組合せ最適化)
- ラグランジュ双対関数と弱双対性 (大学院数学 凸最適化・組合せ最適化)
説明
が有限集合( など)や箱型集合 で目的関数が非凸のとき、ラグランジュ双対では一般に強双対性が成り立たず、 となることがあります。この技能では、双対関数 を「 の一次関数の最小」などの区分的な式として具体的に書き下して最大化し、主問題の最適値 と比べて双対ギャップ を求めます。整数計画の分枝限定法などで、双対から得られる下界がどれだけ緩いかを見積もる場面で使います。
なぜそうしてよいのか
主問題を「, のもとで を最小化」とし、 に対して 、 とします。以下、実行可能な点( となる )が存在するとします。存在しないとき(有限集合や、 が連続な箱型集合で、すべての で )は、 の最小値 について となり、 が (空集合上の下限)と一致するので、ギャップを考える意味はありません。
有限集合の場合。 なら、各 ごとに は の一次関数なので、 は 本の直線の最小、つまり上に凸な折れ線です。その最大値は折れ線の頂点(2 本の直線の交点)か でとられるので、有限回の比較で が求まります。箱型集合の場合も、 が変数ごとに分かれていれば、各変数について区間上の最小を、端点と区間内の停留点の値を比べて求めます。例えば「, のもとで を最小化」では、実行可能域 で です。 は について上に凸( の係数が負)なので、区間上の最小は端点でとられ、 です。2 直線は で交わるので 、ギャップは となります。( が について下に凸なら、停留点 が区間内にあるかどうかで を場合分けします。)
なぜギャップが生じるかは、線形計画の双対定理でわかります。有限の場合、 は線形計画で、その双対は
です。これは「 の点の重み付き平均(混合)を許した」問題で、制約を平均で満たせばよいぶん主問題より緩くなります。 の点そのものでしか制約を満たせないとき、この緩みがギャップ として現れます。弱双対性 より、ギャップは常に 以上です。
手順
緩和する制約 と残す集合 を確認し、実行可能な点があることを確かめて主問題の最適値 を求める(有限集合なら制約を満たす点を列挙して を比べる)
ラグランジュ関数 ()を書く。有限集合なら の各点 について一次関数 を並べる。箱型集合なら変数ごとに区間 上の最小を求める: がその変数について上に凸なら端点 での値の小さい方、下に凸なら停留点が区間内に入るかどうかで を場合分けする
を、どの区間でどの式が最小になるかで区分的に表す(他の直線より常に上にある直線は除いてよい)
の範囲で を最大化する。傾きが正から負に変わる折れ点(傾きが最初から負なら )が最大点で、その値が
双対ギャップ を計算する(必ず になることを確かめる)
例題
とし、次の問題を考える。
制約 を乗数 で緩和したラグランジュ関数 による双対関数を 、 とし、主問題の最適値を とする。双対ギャップ を求めよ。
例題の解答
手順 1: の 4 点のうち を満たすのは だけなので、実行可能で です。
手順 2: 各点での を の一次関数として並べます。
- :
- :
- :
- :
手順 3: は常に より 大きいので除けます。 は 、 は で交わるので
です(例えば で 、 で なので、区分の取り方と合っています)。
手順 4: の傾きは と変わるので、最大は でとられ、 です。
手順 5: 双対ギャップは で、確かに正です。( は、 と を半分ずつ混ぜた「」が制約を等号で満たし、 となることに対応しています。)
答え:
よくある誤り
不等式制約の乗数の符号条件 を忘れて、 まで含めて を最大化してしまう誤り。例えば で「 のもとで を最小化」()では、 で、 とすると となり、弱双対性が崩れて下界にならない。正しくは で最大化して (等式制約のときだけ は全実数)
主問題の最適値 として、整数条件を外した連続緩和の値を使ってしまう誤り。例題で とすると最適値は になり、ギャップが に見える。正しくは は の点の中で制約を満たすものの最小値で
を一部の点の直線だけで作ってしまう誤り。例えば実行可能な点 だけで とすると が の になってしまう。正しくは制約を満たさない点も含めて のすべての点で最小をとり、
箱型集合で、 が について上に凸なのに停留点を最小点としてしまう誤り。上の例 で から を代入すると となるが、これは区間上の最大値側の値である。正しくは端点を比べて 、
この説明は AI が書き、別の AI が例題を独立に解いて答えを確かめ、説明を一歩ずつ査読しました。
入口の問題
この技能を使う問題
頂点集合 の有向グラフ を考える。各有向辺 には費用 と所要時間 が次のように与えられている( の順に記す)。
グラフにはこれ以外の辺はない。 を から への有向道全体とし、有向道 の費用と所要時間を 、 と定める。次の制約付き最短路問題 を考える。
の最適値を とする。時間制約 のみを乗数 で緩和したラグランジュ双対関数を
と定め、双対問題の最適値を とする。 と をこの順に組 で求めよ。上の次の最適化問題 を考える。
不等式制約 だけを乗数 で緩和したラグランジュ関数
により双対関数 を定め、双対問題の最適値を 、 の最適値を とする。双対ギャップ を求めよ。閉区間 上の次の最適化問題 を考える。
不等式制約 だけに乗数 を付けてラグランジュ関数 を作り( という制約は双対化しない)、双対関数を
と定める。 の最適値を 、双対問題 の最適値を とする。組 をこの順に求めよ。とし、次の最適化問題 を考える。
の最適値を とする。制約 だけを乗数 で緩和したラグランジュ双対関数
を用い、双対問題の最適値を とする。双対ギャップ を求めよ。を変数とする次の 0-1 ナップサック問題 を考える。
の最適値を とする。不等式制約だけに乗数 を導入してラグランジュ関数
を定め、双対関数を 、双対問題の最適値を とする。双対ギャップ を求めよ。とし、次の最適化問題 を考える。
等式制約 だけを乗数 で緩和し、集合制約 は残したラグランジュ関数
から双対関数 を定め、双対問題 : を考える。 の最適値を 、 の最適値を とするとき、双対ギャップ を求めよ。を変数とする次の最適化問題 を考える(添字は で考え、 とする)。
その最適値を とする。等式制約に乗数 を対応させたラグランジュ関数
に対し、双対関数を (値 を許す)、ラグランジュ双対問題の最適値を とする。双対ギャップ を求めよ。を整数とし、 を成分がすべて の 次正方行列、 を 次単位行列、 とする。 を変数とする最適化問題
を考え、その最適値を とする。 に対しラグランジュ関数を
と定め、双対関数を 、双対問題の最適値を とする。双対ギャップ が、 が奇数のとき 、 が偶数のとき であることを証明せよ。