数学 において凸共役 （とつきょうやく、英 : convex conjugation ）とは、ルジャンドル変換 の一般化である。ルジャンドル＝フェンシェル変換 あるいはフェンシェル変換 としても知られる（アドリアン＝マリ・ルジャンドル とウェルナー・フェンシェル （英語版 ）
以下、特に断りがなければ、ベクトル空間はすべて実係数のものを考える。
Sの支持超平面（点線） 上記の定義の直観的な意味を説明するため、ベクトル空間V の図形の支持超平面 （英語版 ）
Π
∈
V
{\displaystyle \Pi \in V}
S
∈
V
{\displaystyle S\in V}
支持超平面 （英 : supporting hyperplane ）Π とは、Π はS の閉包の点を少なくとも１つ含み、しかも
V
{\displaystyle V}
Π で２つ切ったときに片方にはS の点が入っていない事をいう[ 2]
f のエピグラフ
e
p
i
f
=
{
(
x
0
,
y
0
)
∈
X
×
R
∣
y
0
≥
f
(
x
0
)
}
{\displaystyle \mathrm {epi} f=\{(x_{0},y_{0})\in X\times \mathbb {R} \mid y_{0}\geq f(x_{0})\}}
を考える。
証明
(
x
0
,
y
0
)
∈
e
p
i
f
{\displaystyle (x_{0},y_{0})\in \mathrm {epi} f}
(
x
0
,
y
0
)
∈
X
×
R
{\displaystyle (x_{0},y_{0})\in X\times \mathbb {R} }
y
=
⟨
a
∗
,
x
−
x
0
⟩
+
y
0
=
⟨
a
∗
,
x
⟩
+
y
0
−
⟨
a
∗
,
x
0
⟩
{\displaystyle y=\langle a^{*},x-x_{0}\rangle +y_{0}=\langle a^{*},x\rangle +y_{0}-\langle a^{*},x_{0}\rangle }
を考えると、支持超平面の定義から、
b
∗
{\displaystyle b^{*}}
y
{\displaystyle y}
⟨
a
∗
,
x
⟩
+
y
0
−
⟨
a
∗
,
x
0
⟩
{\displaystyle \langle a^{*},x\rangle +y_{0}-\langle a^{*},x_{0}\rangle }
b
∗
=
inf
(
x
0
,
y
0
)
∈
e
p
i
f
{
y
0
−
⟨
a
∗
,
x
0
⟩
}
=
inf
x
0
∈
X
{
f
(
x
0
)
−
⟨
a
∗
,
x
0
⟩
}
=
−
f
∗
(
a
∗
)
{\displaystyle b^{*}=\inf _{(x_{0},y_{0})\in \mathrm {epi} f}\{y_{0}-\langle a^{*},x_{0}\rangle \}=\inf _{x_{0}\in X}\{f(x_{0})-\langle a^{*},x_{0}\rangle \}=-f^{*}(a^{*})}
が成立する。ここで2つ目の等号はエピグラフの定義から従う。
すなわち、
a
∗
∈
X
∗
{\displaystyle a^{*}\in X^{*}}
f
{\displaystyle f}
f
∗
(
a
∗
)
{\displaystyle f^{*}(a^{*})}
a
∗
{\displaystyle a^{*}}
y
{\displaystyle y}
b
∗
{\displaystyle b^{*}}
凸共役を二度取った
f
∗
∗
{\displaystyle f^{**}}
f との間に
∀
x
∈
X
:
f
∗
∗
(
x
)
≤
f
(
x
)
{\displaystyle \forall x\in X~:~f^{**}(x)\leq f(x)}
という関係が成立する事を容易に示せる[ 4]
f
∗
∗
=
f
{\displaystyle f^{**}=f}
X が有限次元のベクトル空間の場合は、f に戻るための必要十分条件が知られている：
一般の実局所凸位相ベクトル空間でも同様の事が成立する事が知られている[ 6]
なお、エピグラフが閉集合になる関数のことを閉 （英 : closed ）な関数という[ 7] f が閉凸関数である事と言い換えられる。
d
o
m
f
:=
{
x
∈
X
∣
f
(
x
)
≠
±
∞
}
{\displaystyle \mathrm {dom} f:=\{x\in X\mid f(x)\neq \pm \infty \}}
とすると、特にf が凸関数の場合は次が成立する：
ここで
f
{\displaystyle f}
閉包 （英 : closure ）
c
l
f
:
X
→
R
∪
{
±
∞
}
{\displaystyle \mathrm {cl} f~:~X\to \mathbb {R} \cup \{\pm \infty \}}
c
l
f
{\displaystyle \mathrm {cl} f}
e
p
i
(
c
l
f
)
{\displaystyle \mathrm {epi} (\mathrm {cl} f)}
e
p
i
f
{\displaystyle \mathrm {epi} f}
X の位相に関する）閉包
c
l
(
e
p
i
f
)
{\displaystyle \mathrm {cl} (\mathrm {epi} f)}
[ 9]
c
l
f
{\displaystyle \mathrm {cl} f}
well-defined な事が知られている[ 9]
なお、
f
∗
∗
=
f
{\displaystyle f^{**}=f}
f
∗
∗
∗
=
f
∗
{\displaystyle f^{***}=f^{*}}
[ 10]
f
∗
{\displaystyle f^{*}}
f が凸関数であれば、
f
∗
{\displaystyle f^{*}}
f
∗
(
x
)
≠
±
∞
{\displaystyle f^{*}(x)\neq \pm \infty }
x
∈
X
{\displaystyle x\in X}
f
∗
{\displaystyle f^{*}}
アフィン函数
f
(
x
)
=
⟨
a
,
x
⟩
−
b
,
a
∈
R
n
,
b
∈
R
{\displaystyle f(x)=\left\langle a,x\right\rangle -b,\,a\in \mathbb {R} ^{n},b\in \mathbb {R} }
の凸共役は
f
⋆
(
x
∗
)
=
{
b
,
x
∗
=
a
+
∞
,
x
∗
≠
a
.
{\displaystyle f^{\star }\left(x^{*}\right)={\begin{cases}b,&x^{*}=a\\+\infty ,&x^{*}\neq a.\end{cases}}}
である。冪函数
f
(
x
)
=
1
p
|
x
|
p
,
1
<
p
<
∞
{\displaystyle f(x)={\frac {1}{p}}|x|^{p},\,1<p<\infty }
の凸共役は
f
⋆
(
x
∗
)
=
1
q
|
x
∗
|
q
,
1
<
q
<
∞
{\displaystyle f^{\star }\left(x^{*}\right)={\frac {1}{q}}|x^{*}|^{q},\,1<q<\infty }
である。ここで
1
p
+
1
q
=
1
{\displaystyle {\tfrac {1}{p}}+{\tfrac {1}{q}}=1}
絶対値 函数
f
(
x
)
=
|
x
|
{\displaystyle f(x)=\left|x\right|}
の凸共役は
f
⋆
(
x
∗
)
=
{
0
,
|
x
∗
|
≤
1
∞
,
|
x
∗
|
>
1
{\displaystyle f^{\star }\left(x^{*}\right)={\begin{cases}0,&\left|x^{*}\right|\leq 1\\\infty ,&\left|x^{*}\right|>1\end{cases}}}
である。指数函数
f
(
x
)
=
e
x
{\displaystyle f(x)=\,\!e^{x}}
f
⋆
(
x
∗
)
=
{
x
∗
ln
x
∗
−
x
∗
,
x
∗
>
0
0
,
x
∗
=
0
∞
,
x
∗
<
0
{\displaystyle f^{\star }\left(x^{*}\right)={\begin{cases}x^{*}\ln x^{*}-x^{*},&x^{*}>0\\0,&x^{*}=0\\\infty ,&x^{*}<0\end{cases}}}
である。指数函数の凸共役とルジャンドル変換は、凸共役の定義域が厳密に大きいことを除いて一致する。ルジャンドル変換は正の実数に対してのみ定義されるためである。
[ 編集 ] F を確率変数 X の累積分布函数 とする。このとき、部分積分により
f
(
x
)
:=
∫
−
∞
x
F
(
u
)
d
u
=
E
[
max
(
0
,
x
−
X
)
]
=
x
−
E
[
min
(
x
,
X
)
]
{\displaystyle f(x):=\int _{-\infty }^{x}F(u)\,du=\operatorname {E} \left[\max(0,x-X)\right]=x-\operatorname {E} \left[\min(x,X)\right]}
は次の凸共役を持つ。
f
⋆
(
p
)
=
∫
0
p
F
−
1
(
q
)
d
q
=
(
p
−
1
)
F
−
1
(
p
)
+
E
[
min
(
F
−
1
(
p
)
,
X
)
]
=
p
F
−
1
(
p
)
−
E
[
max
(
0
,
F
−
1
(
p
)
−
X
)
]
.
{\displaystyle f^{\star }(p)=\int _{0}^{p}F^{-1}(q)\,dq=(p-1)F^{-1}(p)+\operatorname {E} \left[\min(F^{-1}(p),X)\right]=pF^{-1}(p)-\operatorname {E} \left[\max(0,F^{-1}(p)-X)\right].}
特別な解釈により次の変換が考えられる。
f
inc
(
x
)
:=
arg
sup
t
t
⋅
x
−
∫
0
1
max
{
t
−
f
(
u
)
,
0
}
d
u
,
{\displaystyle f^{\text{inc}}(x):=\arg \sup _{t}\,t\cdot x-\int _{0}^{1}\max\{t-f(u),0\}\,\mathrm {d} u,}
これは初期函数 f の非減少な書き換えである。特に、f に対する
f
inc
=
f
{\displaystyle f^{\text{inc}}=f}
閉凸函数 の凸共役は再び閉凸函数である。多面体的凸函数 （多面体的エピグラフ を持つ凸函数 ）の凸共役は、再び多面体的凸函数である。
凸共役は、順序を反転させる。すなわち、
f
≤
g
{\displaystyle f\leq g}
f
∗
≥
g
∗
{\displaystyle f^{*}\geq g^{*}}
(
f
≤
g
)
:
⟺
(
∀
x
,
f
(
x
)
≤
g
(
x
)
)
{\displaystyle (f\leq g):\iff (\forall x,f(x)\leq g(x))}
である。函数の族
(
f
α
)
α
{\displaystyle \left(f_{\alpha }\right)_{\alpha }}
(
inf
α
f
α
)
∗
(
x
)
=
sup
α
f
α
∗
(
x
)
.
{\displaystyle \left(\inf _{\alpha }f_{\alpha }\right)^{*}(x)=\sup _{\alpha }f_{\alpha }^{*}(x).}
さらに最大最小不等式 により、次が従う。
(
sup
α
f
α
)
∗
(
x
)
≤
inf
α
f
α
∗
(
x
)
.
{\displaystyle \left(\sup _{\alpha }f_{\alpha }\right)^{*}(x)\leq \inf _{\alpha }f_{\alpha }^{*}(x).}
任意の函数 f とその凸共役 f *フェンシェルの不等式 （フェンシェル＝ヤングの不等式 としても知られる）は、すべての x ∈ X p ∈ X *
⟨
p
,
x
⟩
≤
f
(
x
)
+
f
∗
(
p
)
.
{\displaystyle \left\langle p,x\right\rangle \leq f(x)+f^{*}(p).}
二つの函数
f
0
{\displaystyle f_{0}}
f
1
{\displaystyle f_{1}}
0
≤
λ
≤
1
{\displaystyle 0\leq \lambda \leq 1}
(
(
1
−
λ
)
f
0
+
λ
f
1
)
⋆
≤
(
1
−
λ
)
f
0
⋆
+
λ
f
1
⋆
{\displaystyle \left((1-\lambda )f_{0}+\lambda f_{1}\right)^{\star }\leq (1-\lambda )f_{0}^{\star }+\lambda f_{1}^{\star }}
この演算
⋆
{\displaystyle \star }
二つの函数 f と g の極小畳み込み （infimal convolution）は、次で定義される（epi-sum とも呼ばれる）：
(
f
◻
g
)
(
x
)
=
inf
{
f
(
x
−
y
)
+
g
(
y
)
∣
y
∈
R
n
}
.
{\displaystyle \left(f\Box g\right)(x)=\inf \left\{f(x-y)+g(y)\mid y\in \mathbb {R} ^{n}\right\}.}
f 1 , …, f m は R n 下半連続 な函数とする。このとき、これらの極小畳み込みは凸かつ下半連続である（が、必ずしも真凸ではない）[ 12]
(
f
1
◻
⋯
◻
f
m
)
⋆
=
f
1
⋆
+
⋯
+
f
m
⋆
.
{\displaystyle \left(f_{1}\Box \cdots \Box f_{m}\right)^{\star }=f_{1}^{\star }+\cdots +f_{m}^{\star }.}
二つの函数の極小畳み込みは、次のような幾何学的解釈がある：二つの函数の極小畳み込みの（厳密な）エピグラフ は、それらの函数の（厳密な）エピグラフのミンコフスキー和 （英語版 ） [ 13]
函数
f
{\displaystyle f}
f
′
(
x
)
=
x
∗
(
x
)
:=
arg
sup
x
⋆
⟨
x
,
x
⋆
⟩
−
f
⋆
(
x
⋆
)
{\displaystyle f^{\prime }(x)=x^{*}(x):=\arg \sup _{x^{\star }}{\langle x,x^{\star }\rangle }-f^{\star }(x^{\star })}
f
⋆
′
(
x
⋆
)
=
x
(
x
⋆
)
:=
arg
sup
x
⟨
x
,
x
⋆
⟩
−
f
(
x
)
;
{\displaystyle f^{\star \prime }(x^{\star })=x(x^{\star }):=\arg \sup _{x}{\langle x,x^{\star }\rangle }-f(x);}
が成り立つ。したがって
x
=
∇
f
⋆
(
∇
f
(
x
)
)
,
{\displaystyle x=\nabla f^{\star }(\nabla f(x)),}
x
⋆
=
∇
f
(
∇
f
⋆
(
x
⋆
)
)
,
{\displaystyle x^{\star }=\nabla f(\nabla f^{\star }(x^{\star })),}
であり、さらに次が成立する。
f
′
′
(
x
)
⋅
f
⋆
′
′
(
x
⋆
(
x
)
)
=
1
,
{\displaystyle f^{\prime \prime }(x)\cdot f^{\star \prime \prime }(x^{\star }(x))=1,}
f
⋆
′
′
(
x
⋆
)
⋅
f
′
′
(
x
(
x
⋆
)
)
=
1.
{\displaystyle f^{\star \prime \prime }(x^{\star })\cdot f^{\prime \prime }(x(x^{\star }))=1.}
ある
γ
>
0
{\displaystyle \gamma >0}
g
(
x
)
=
α
+
β
x
+
γ
⋅
f
(
λ
x
+
δ
)
{\displaystyle \,g(x)=\alpha +\beta x+\gamma \cdot f(\lambda x+\delta )}
g
⋆
(
x
⋆
)
=
−
α
−
δ
x
⋆
−
β
λ
+
γ
⋅
f
⋆
(
x
⋆
−
β
λ
γ
)
.
{\displaystyle g^{\star }(x^{\star })=-\alpha -\delta {\frac {x^{\star }-\beta }{\lambda }}+\gamma \cdot f^{\star }\left({\frac {x^{\star }-\beta }{\lambda \gamma }}\right).}
さらにパラメータ α が追加される場合は、次が成り立つ。
f
α
(
x
)
=
−
f
α
(
x
~
)
.
{\displaystyle f_{\alpha }(x)=-f_{\alpha }({\tilde {x}}).}
ここで
x
~
{\displaystyle {\tilde {x}}}
A を X から Y への有界線型作用素 とする。X 上の任意の凸函数 f に対して、次が成り立つ。
(
A
f
)
⋆
=
f
⋆
A
⋆
{\displaystyle \left(Af\right)^{\star }=f^{\star }A^{\star }}
ここで
(
A
f
)
(
y
)
=
inf
{
f
(
x
)
:
x
∈
X
,
A
x
=
y
}
{\displaystyle (Af)(y)=\inf\{f(x):x\in X,Ax=y\}}
は f の A に関する原像であり、A * は A の共役作用素 である[ 14]
閉凸函数 f は、ある与えられた直交線型変換 の集合 G に関して対称である、すなわち
f
(
A
x
)
=
f
(
x
)
,
∀
x
,
∀
A
∈
G
{\displaystyle f\left(Ax\right)=f(x),\;\forall x,\;\forall A\in G}
であるための必要十分条件は、凸共役 f * が G に関して対称であることである。
次の表では、多くの有名な函数のルジャンドル変換で、有用な性質を持つものが示されている[ 15]
g
(
x
)
{\displaystyle g(x)}
dom
(
g
)
{\displaystyle \operatorname {dom} (g)}
g
∗
(
x
∗
)
{\displaystyle g^{*}(x^{*})}
dom
(
g
∗
)
{\displaystyle \operatorname {dom} (g^{*})}
f
(
a
x
)
{\displaystyle f(ax)}
a
≠
0
{\displaystyle a\neq 0}
X
{\displaystyle X}
f
∗
(
x
∗
a
)
{\displaystyle f^{*}\left({\frac {x^{*}}{a}}\right)}
X
∗
{\displaystyle X^{*}}
f
(
x
+
b
)
{\displaystyle f(x+b)}
X
{\displaystyle X}
f
∗
(
x
∗
)
−
⟨
b
,
x
∗
⟩
{\displaystyle f^{*}(x^{*})-\langle b,x^{*}\rangle }
X
∗
{\displaystyle X^{*}}
a
f
(
x
)
{\displaystyle af(x)}
a
>
0
{\displaystyle a>0}
X
{\displaystyle X}
a
f
∗
(
x
∗
a
)
{\displaystyle af^{*}\left({\frac {x^{*}}{a}}\right)}
X
∗
{\displaystyle X^{*}}
α
+
β
x
+
γ
⋅
f
(
λ
x
+
δ
)
{\displaystyle \alpha +\beta x+\gamma \cdot f(\lambda x+\delta )}
X
{\displaystyle X}
−
α
−
δ
x
∗
−
β
λ
+
γ
⋅
f
∗
(
x
∗
−
β
γ
λ
)
(
γ
>
0
)
{\displaystyle -\alpha -\delta {\frac {x^{*}-\beta }{\lambda }}+\gamma \cdot f^{*}\left({\frac {x^{*}-\beta }{\gamma \lambda }}\right)\quad (\gamma >0)}
X
∗
{\displaystyle X^{*}}
|
x
|
p
p
{\displaystyle {\frac {|x|^{p}}{p}}}
p
>
1
{\displaystyle p>1}
R
{\displaystyle \mathbb {R} }
|
x
∗
|
q
q
{\displaystyle {\frac {|x^{*}|^{q}}{q}}}
1
p
+
1
q
=
1
{\displaystyle {\frac {1}{p}}+{\frac {1}{q}}=1}
R
{\displaystyle \mathbb {R} }
−
x
p
p
{\displaystyle {\frac {-x^{p}}{p}}}
0
<
p
<
1
{\displaystyle 0<p<1}
R
+
{\displaystyle \mathbb {R} _{+}}
−
(
−
x
∗
)
q
q
{\displaystyle {\frac {-(-x^{*})^{q}}{q}}}
1
p
+
1
q
=
1
{\displaystyle {\frac {1}{p}}+{\frac {1}{q}}=1}
R
−
−
{\displaystyle \mathbb {R} _{--}}
1
+
x
2
{\displaystyle {\sqrt {1+x^{2}}}}
R
{\displaystyle \mathbb {R} }
−
1
−
(
x
∗
)
2
{\displaystyle -{\sqrt {1-(x^{*})^{2}}}}
[
−
1
,
1
]
{\displaystyle [-1,1]}
−
log
(
x
)
{\displaystyle -\log(x)}
R
+
+
{\displaystyle \mathbb {R} _{++}}
−
(
1
+
log
(
−
x
∗
)
)
{\displaystyle -(1+\log(-x^{*}))}
R
−
−
{\displaystyle \mathbb {R} _{--}}
e
x
{\displaystyle e^{x}}
R
{\displaystyle \mathbb {R} }
{
x
∗
log
(
x
∗
)
−
x
∗
if
x
∗
>
0
0
if
x
∗
=
0
{\displaystyle {\begin{cases}x^{*}\log(x^{*})-x^{*}&{\text{if }}x^{*}>0\\0&{\text{if }}x^{*}=0\end{cases}}}
R
+
{\displaystyle \mathbb {R} _{+}}
log
(
1
+
e
x
)
{\displaystyle \log \left(1+e^{x}\right)}
R
{\displaystyle \mathbb {R} }
{
x
∗
log
(
x
∗
)
+
(
1
−
x
∗
)
log
(
1
−
x
∗
)
if
0
<
x
∗
<
1
0
if
x
∗
=
0
,
1
{\displaystyle {\begin{cases}x^{*}\log(x^{*})+(1-x^{*})\log(1-x^{*})&{\text{if }}0<x^{*}<1\\0&{\text{if }}x^{*}=0,1\end{cases}}}
[
0
,
1
]
{\displaystyle [0,1]}
−
log
(
1
−
e
x
)
{\displaystyle -\log \left(1-e^{x}\right)}
R
{\displaystyle \mathbb {R} }
{
x
∗
log
(
x
∗
)
−
(
1
+
x
∗
)
log
(
1
+
x
∗
)
if
x
∗
>
0
0
if
x
∗
=
0
{\displaystyle {\begin{cases}x^{*}\log(x^{*})-(1+x^{*})\log(1+x^{*})&{\text{if }}x^{*}>0\\0&{\text{if }}x^{*}=0\end{cases}}}
R
+
{\displaystyle \mathbb {R} _{+}}
^ #Ekeland pp.6-7,16^ “Supporting hyperplane - Encyclopedia of Mathematics ”. encyclopediaofmath.org . 2025年1月30日 閲覧。 ^ Maxim Raginsky. “week 10 notes. The Legendre-Fenchel dual functional and its geometric interpretation ”. イリノイ大学 . p. 11. 2025年1月30日 閲覧。 ^ #Borwein p.76.^ #Borwein pp.43-44, 76.^ #Ekeland pp.15, 18^ #Borwein pp.43-44.^ #Borwein pp.78^ a b #Borwein pp.2,78
^ #Ekeland p.18^ #Borwein-Luke p.3.^ Phelps, Robert (1991). Convex Functions, Monotone Operators and Differentiability (2 ed.). Springer. p. 42. ISBN 0-387-56715-1 ^ Bauschke, Heinz H.; Goebel, Rafal; Lucet, Yves; Wang, Xianfu (2008). “The Proximal Average: Basic Theory”. SIAM Journal on Optimization 19 (2): 766. doi :10.1137/070687542 . ^ Ioffe, A.D. and Tichomirov, V.M. (1979), Theorie der Extremalaufgaben . Deutscher Verlag der Wissenschaften. Satz 3.4.3
^ #Borwein pp.50-51
![{\displaystyle f(x):=\int _{-\infty }^{x}F(u)\,du=\operatorname {E} \left[\max(0,x-X)\right]=x-\operatorname {E} \left[\min(x,X)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5305f9e0bbb2f5dd0fd854f406e0bf4c11e3526c)
![{\displaystyle f^{\star }(p)=\int _{0}^{p}F^{-1}(q)\,dq=(p-1)F^{-1}(p)+\operatorname {E} \left[\min(F^{-1}(p),X)\right]=pF^{-1}(p)-\operatorname {E} \left[\max(0,F^{-1}(p)-X)\right].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/711a66d74ef8ef0fa4974ecb6129a50076503aae)
![{\displaystyle [-1,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/51e3b7f14a6f70e614728c583409a0b9a8b9de01)
![{\displaystyle [0,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/738f7d23bb2d9642bab520020873cccbef49768d)
