条件付確率と条件付期待値

ブラウン運動と伊藤積分(確率積分)の理論を展開していく上で,既にそのいくつかの性質を利用しましたが,以後もしばしば前置きも証明も無く条件付期待値やそれに関する色々な公式を用いる予定です。

そこで,以前に約束したように,ここで,まとめて条件付期待値や,それに関する公式等の解説をしておきたいと思います。

まず,確率空間を与えて正確に条件付確率と条件付期待値(平均値)を定義しておきます。

確率空間(Ω,Ｆ,Ｐ)が与えられ,Ｐ(Ｂ)＞0 を満たすある事象Ｂ∈Ｆが確実におきるという前提の下で,Ｂを標本空間とした１つの確率測度Ｐ_B(Ａ)≡Ｐ(Ａ∩Ｂ)/Ｐ(Ｂ)∀Ａ∈Ｆを定義したとき,"Ｐ_B(Ａ)は事象Ｂに関するＡの条件付確率である。"といいます。

このＰ_B(Ａ)≡Ｐ(Ａ∩Ｂ)/Ｐ(Ｂ)を一般にＰ(Ａ|Ｂ)と書きます。

同様に,確率変数をＸ＝Ｘ(ω) ∀ω∈Ωとします。

初等確率論では確率変数はその値をＮ次元ユークリッド空間Ｒ^N あるいは,その部分集合に取ります。すなわち,通常はＸ＝Ｘ(ω)∈Ｒ^Nとするわけです。

しかし,私のブログ記事「ブラウン運動と伊藤積分」では確率変数の値域をＲ^Nよりもっと広い一般の距離空間Ξに取っています。すなわち,Ｘ＝Ｘ(ω)∈Ξとしています。

そして,Ｘ＝Ｘ(ω)∀ω∈Ωが与えられたとき,ＸのＰ_Bに関する平均値をＥ[Ｘ|Ｂ]≡∫_ΩＸ(ω)Ｐ_B(ｄω)＝∫_BＸ(ω)Ｐ(ｄω)/Ｐ(Ｂ)で定義し,"Ｅ[Ｘ|Ｂ]は事象Ｂに関するＸの条件付期待値,または条件付平均値である。"といいます。

ここで,Ｅ[Ｘ|Ｂ]≡∫_ΩＸ(ω)Ｐ_B(ｄω)＝∫_BＸ(ω)Ｐ(ｄω)/Ｐ(Ｂ)においてＰ_B(ｄω)あるいはＰ(ｄω)というのは確率変数がω～ω＋ｄωの範囲にある確率測度ｄＰを表わしたものです。

右辺は,有界変動の関数のルベーグ・スティルチェス積分を表わしています。

※余談ですが,ｄＰとか,ｄωとかによる積分は古来から定義することが可能なルベーグ・スティルチェス積分であり,私の記事「ブラウン運動と伊藤積分」で説明している"確率積分＝伊藤積分"は,それら通常の概念の積分ではありません。

確率積分は確率変数Ｘ＝Ｘ(ω)による測度をｄＸ＝ｄＸ(ω)と書いた積分のことです。

Ｘ＝Ｘ(ω)は確定した値ではなく,ω∈Ωとその確率Ｐによって確率的に変動するもので,そもそもブラウン運動などではＸ＝Ｘ(ω)は有界変動の関数ではありません。

すなわち,例えばブラウン運動では,その有限な経路の長さが有限ではなく無限大になります。

こうした確率変数による確率積分を初めて定義することに成功したのがわが国の伊藤清氏です。そこで確率積分の定義式や性質などは伊藤積分とか伊藤の公式と呼ばれています。

条件付確率,および条件付期待値を１つの事象Ｂ∈Ｆという条件に対するものではなく,２個以上の事象,つまりＦに含まれる部分σ加法族Ｇ⊂Ｆという条件に対して定義します。

そのため,Ｂ∈Ｇに対しＥ[Ｘ,Ｂ]≡Ｅ[Ｘ・１_B]＝∫_BＸ(ω)Ｐ(ｄω)と置きます。この積分はＢに関して絶対連続です。

つまり,Ｐ(Ｂ)＝0 ならＥ[Ｘ,Ｂ]＝∫_BＸ(ω)Ｐ(ｄω)＝0 です。

そこで,「ラドン・ニコディムの定理」によって適当なＧ-可測関数Ｙ(ω)が存在して,Ｅ[Ｘ,Ｂ]＝∫_BＸ(ω)Ｐ(ｄω)＝∫_BＹ(ω)Ｐ(ｄω)と書くことができます。

※これは抽象的で何を述べているのか理解できないと思われる方もおられるかもしれません。簡単に言えば,Ｅ[Ｘ,Ｂ]＝Ｅ[Ｘ(ω)・１_B]＝Ｅ[Ｙ(ω)・１_B]＝Ｅ[Ｙ,Ｂ]なることを示しています。

そもそもσ-有限な測度空間(Ｘ,Ｍ,μ)での集合Ａ∈Ｍ の関数＝集合関数:Φ(Ａ)は必ずしもその測度μに関する密度関数 f(ｘ)；ｘ∈Ｘ を持っていて常にΦ(Ａ)＝∫_Aｆ(ｘ)μ(ｄｘ)という形に表現できるとは限らないわけです。

(Φ(Ａ)が事象Ａの確率Ｐ(Ａ)を表わす場合なら,f(ｘ)は確率密度関数ｐ(ｘ)です。)

ところが,「ラドン・ニコディムの定理」というのは,"もしもΦ(Ａ)が絶対連続である:つまり,μ(Ｅ)＝0 Ｅ∈Ｍ なら常にΦ(Ａ)＝0 である。という条件を満足するなら適当な密度関数 f(ｘ)が存在してΦ(Ａ)＝∫_Aｆ(ｘ)μ(ｄｘ)と表現できる。"というものです。

より一般には,定理の前半として"任意の集合関数は絶対連続な集合関数と特異な(絶対連続でない)集合関数との和に一意的に分解される。"という命題も含まれています。ただし,この定理の証明は省略します。※

そして,Ｅ[Ｘ,Ｂ]＝∫_BＸ(ω)Ｐ(ｄω)＝∫_BＹ(ω)Ｐ(ｄω)＝Ｅ[Ｙ(ω),Ｂ]となるようなＧ-可測な密度関数:Ｙ(ω)をＥ[Ｘ|Ｇ]と書いてＧ の下での条件付期待値と呼びます。

特に,Ａ∈Ｆ に対して確率変数をＸ(ω)≡１_A(ω)＝集合Ａの定義関数としたときの条件付期待値Ｅ[１_A|Ｇ]を,Ｐ(Ａ|Ｇ)≡Ｅ[１_A|Ｇ]と書いてＰ(Ａ|Ｇ)を条件付確率と呼びます。

こうした条件付期待値の定義は抽象的でわかりにくいものです。

むしろ,歴史的にはより具体的な定義が先に与えられ,それが今与えた定義と一致することから,こうした抽象的な定義が採用されるようになったといえるでしょう。

つまり,∀Ｂ∈Ｇ についてＥ[Ｘ,Ｂ]＝Ｅ[Ｅ[Ｘ|Ｇ],Ｂ]を満足するＥ[Ｘ|Ｇ]は一意的に決まるので,それを条件付期待値として定義したということです。

ＧがΩのＦ -可測な有限分割であるとします。

Ω＝∪_i=1ⁿＢ_i；Ｂ_i∈Ｆ；Ｂ_i∩Ｂ_j＝φ(ｉ≠ｊ)でＧ ＝σ({Ｂ_i}_1≦i≦n)となっている場合を想定します。

このとき,∀ｉに対しＰ(Ｂ_i)＞0 と仮定すると,Ｅ[Ｘ|Ｇ ](ω)＝Σ_i=1ⁿＥ[Ｘ|Ｂ_i]１_Bi(ω)となります。

また,Ａ∈Ｆ に対して,Ｐ(Ａ|Ｇ )(ω)＝Σ_i=1ⁿＰ(Ａ|Ｂ_i)１_Bi(ω)と表現されます。

ここで,前に定義した通りＥ[Ｘ|Ｂ_i]やＰ(Ａ|Ｂ_i)(ｉ＝1,2,..,ｎ)は,Ｅ[Ｘ|Ｂ_i]≡∫_ΩＸ(ω)Ｐ_Bi(ｄω)＝∫_BiＸ(ω)Ｐ(ｄω)/Ｐ(Ｂ_i)でＰ(Ａ|Ｂ_i)＝Ｐ_Bi(Ａ)≡Ｐ(Ａ∩Ｂ_i)/Ｐ(Ｂ_i)etc.で与えられます。

条件付期待値の有限分割に対する後の定義Ｅ[Ｘ|Ｇ](ω)＝Σ_i=1ⁿＥ[Ｘ|Ｂ_i]１_Bi(ω)が,先の抽象的な定義でのＥ[Ｘ|Ｇ](ω)＝Ｙ(ω)と一致することを見るにはＥ[Ｘ,Ｂ]＝∫_BＸ(ω)Ｐ(ｄω)が∀Ｂ∈Ｇ について∫_BΣ_i=1ⁿＥ[Ｘ|Ｂ_i]１_Bi(ω)Ｐ(ｄω)と一致することを見ればいいわけです。

実際,分割の各Ｂ_iの上では両辺は共に∫_BiＸ(ω)Ｐ(ｄω)＝Ｅ[Ｘ|Ｂ_i]Ｐ(Ｂ_i)となって一致しています。

条件付確率の定義:Ｐ(Ａ|Ｇ)(ω)＝Σ_i=1ⁿＰ(Ａ|Ｂ_i)1_Bi(ω)については,これはＥ[Ｘ|Ｇ](ω)＝Σ_i=1ⁿＥ[Ｘ|Ｂ_i]１_Bi(ω)でＸ(ω)＝１_A(ω)の特別な場合なので、Ｅ[Ｘ|Ｇ](ω)について成立することはもちろんＰ(Ａ|Ｇ)(ω)についても成立しますから,改めて示すまでもありません。

これらが共にＥ[Ｘ,Ｂ]に一致することと前後の定義が同等であることが同値であることは次のように証明されます。

もし仮に,２つのＹ₁(ω),Ｙ₂(ω)が存在してＥ[Ｘ,Ｂ]＝Ｅ[Ｙ₁,Ｂ]＝Ｅ[Ｙ₂,Ｂ] ∀Ｂ∈Ｇが成立すれば,Ｅ[(Ｙ₁－Ｙ₂),Ｂ]＝0 ∀Ｂ∈Ｇ より,Ｙ₁＝Ｙ₂(ａ.ｓ.＝ほとんど確実に),あるいは(ａ.ｅ.＝ほとんどいたるところで))なることがわかります。

つまり確率１でＹ₁とＹ₂は一致することがわかるのです。

次に条件付期待値の代表的な７つの性質を述べて証明します。

ただし,証明においては(ａ.ｓ)や(ａ.ｅ)を省略します。

Ｘ,Ｙ,Ｘ_n(ｎ∈Ｎ)は可積分な確率変数とする。

(１) ∀ａ,ｂ∈Ｒに対してＥ[ａＸ＋ｂＹ|Ｇ]＝ａＥ[Ｘ|Ｇ]＋ｂＥ[Ｙ|Ｇ] (ａ.ｓ)　

(証明)これは期待値の定義から自明です。

(２) Ｘ≧0 ならＥ[Ｘ|Ｇ]≧0 (ａ.ｓ) (証明)これも自明です。

(３) ＸがＧ-可測で積ＸＹが可積分ならＥ[ＸＹ|Ｇ]＝ＸＥ[Ｙ|Ｇ] (ａ.ｓ),特にＥ[Ｘ|Ｇ]＝Ｘ (ａ.ｓ)である。

(証明) ＸＥ[Ｙ|Ｇ]はＧ-可測ですから,Ｅ[ＸＹ,Ｂ]＝Ｅ[ＸＥ[Ｙ|Ｇ],Ｂ] ∀Ｂ∈Ｇ を示せば十分です。

まず,Ｘ＝１_A,Ａ∈Ｇ のときはＥ[１_AＥ[Ｙ|Ｇ],Ｂ]＝Ｅ[Ｅ[Ｙ|Ｇ],Ａ∩Ｂ]＝Ｅ[Ｙ,Ａ∩Ｂ]＝Ｅ[１_AＹ,Ｂ]ですから,Ｅ[１_AＹ,Ｂ]＝Ｅ[１_AＥ[Ｙ|Ｇ],Ｂ] ∀Ｂ∈Ｇが成立します。

そこでＸがＧ-可測な単関数Ｘ＝Σ_i=1ⁿａ_i１_Ai(ｎ∈Ｎ,ａ_i∈Ｒ)のときにも,Ｅ[ＸＹ,Ｂ]＝Ｅ[ＸＥ[Ｙ|Ｇ],Ｂ]∀Ｂ∈Ｇが成立します。

さらに極限を取ることにより,Ｘが一般のＧ-可測関数のときにも,この等式は成立します。

それ故,Ｅ[ＸＹ|Ｇ]＝ＸＥ[Ｙ|Ｇ]です。特にＹ＝１と取ればＥ[Ｘ|Ｇ]＝Ｘを得ます。

(４)Ｈ,ＧをＦの部分σ-加法族でＨ⊂Ｇとすれば,Ｅ[Ｅ[Ｘ|Ｇ]|Ｈ]＝Ｅ[Ｘ|Ｈ] (ａ.ｓ),特にＥ[Ｅ[Ｘ|Ｇ]]＝Ｅ[Ｘ] (ａ.ｓ)である。

(証明) 両辺ともＨ-可測ですから,Ｅ[Ｅ[Ｅ[Ｘ|Ｇ]|Ｈ],Ｂ]＝Ｅ[Ｘ,Ｂ]∀Ｂ∈Ｈを示せば十分です。

ところが,条件付期待値の定義によって∀Ｂ∈Ｈ に対してＥ[Ｅ[Ｅ[Ｘ|Ｇ]|Ｈ],Ｂ]＝Ｅ[Ｅ[Ｘ|Ｇ],Ｂ]です。

そして,Ｈ⊂Ｇなので,∀Ｂ∈Ｈ はＢ∈Ｇ を意味しますから,Ｅ[Ｅ[Ｘ|Ｇ],Ｂ]＝Ｅ[Ｘ,Ｂ]∀Ｂ∈Ｈ です。すなわち,Ｅ[Ｅ[Ｅ[Ｘ|Ｇ]|Ｈ],Ｂ]＝Ｅ[Ｘ,Ｂ]∀Ｂ∈Ｈ,つまりＥ[Ｅ[Ｘ|Ｇ]|Ｈ]＝Ｅ[Ｘ|Ｈ]が得られます。

そして,特にＨ≡{φ,Ω}と取ってＨを自明なσ-加法族とすれば,明らかに任意のσ-加法族Ｇに対してＨ⊂Ｇであり,Ｅ[Ｘ,Ω]＝Ｅ[Ｘ],Ｅ[Ｘ,φ]＝0です。

それ故,Ｅ[Ｅ[Ｘ|Ｈ],Ω]＝Ｅ[Ｘ],Ｅ[Ｅ[Ｘ|Ｈ],φ]＝0 が必要十分なので,Ｅ[Ｘ|Ｈ]＝Ｅ[Ｘ]です。

(つまりＥ[Ｘ|Ｈ]＝Ｅ[Ｘ]１_Ω＋0・1_φ＝Ｅ[Ｘ])

よって,この特別な場合を考えると,Ｅ[Ｅ[Ｘ|Ｇ]|Ｈ]＝Ｅ[Ｘ|Ｈ]はＥ[Ｅ[Ｘ|Ｇ]]＝Ｅ[Ｘ]に帰着します。

(５)(Jensenの不等式):ψはＲ上の実数値関数で下に凸である(ψ(λｘ＋(1－λ)ｙ)≦λψ(ｘ)＋(1－λ)ψ(ｙ),∀ｘ,ｙ∈Ｒ,0≦∀λ≦1)とする。

ψ(Ｘ)が可積分ならψ(Ｅ[Ｘ|Ｇ])≦Ｅ[ψ(Ｘ)|Ｇ](ａ.ｓ)となる。

特に,Ｘ∈Ｌ^p≡Ｌ^p(Ω,Ｆ,Ｐ),ｐ≧１(Ｅ[|Ｘ|^p]＜∞)なら|Ｅ[Ｘ|Ｇ]|^p≦Ｅ[|Ｘ|^p|Ｇ] (ａ.ｓ)である。

(証明) ψは下に凸なので,この曲線はその上の任意の点の接線より上にあります。

すなわち,∀ａ∈Ｒに対してｃ＝ｃ(ａ)∈Ｒが存在して,ψ(ｘ)≧ψ(ａ)＋ｃ(ｘ－ａ),ｘ∈Ｒとできます。

特にｘ＝Ｘ,ａ＝Ｅ[Ｘ|Ｇ]と取れば,Ｇ-可測関数ｃ~＝ｃ~(ω)＝ｃ(Ｅ[Ｘ|Ｇ])が存在してψ(Ｘ)≧ψ(Ｅ[Ｘ|Ｇ])＋ｃ~(Ｘ－Ｅ[Ｘ|Ｇ])であることがわかります。

したがって,(１),(２)よりＥ[ψ(Ｘ)|Ｇ]≧Ｅ[ψ(Ｅ[Ｘ|Ｇ])|Ｇ]＋Ｅ[ｃ~(Ｘ－Ｅ[Ｘ|Ｇ])|Ｇ]が成立します。

ところが,ψ(Ｅ[Ｘ|Ｇ])はＧ-可測なので(３)によりＥ[ψ(Ｅ[Ｘ|Ｇ])|Ｇ]＝ψ(Ｅ[Ｘ|Ｇ])です。そして,やはり(３)よりＥ[ｃ~(Ｘ－Ｅ[Ｘ|Ｇ])|Ｇ]＝ｃ~(Ｅ[Ｘ|Ｇ]－Ｅ[Ｅ[Ｘ|Ｇ]|Ｇ]＝0 です。

以上から,Jensenの不等式:ψ(Ｅ[Ｘ|Ｇ])≦Ｅ[ψ(Ｘ)|Ｇ]が証明されました。

そして,ψ(ｘ)≡|ｘ|^p,ｐ≧1と置けば,これは下に凸ですから第２の不等式が得られます。

(６) Ｘ_n→Ｘ　as ｎ→ ∞ で,Ｘ∈Ｌ¹ならＥ[Ｘ_n|Ｇ]→Ｅ[Ｘ|Ｇ] as ｎ→ ∞ であってＥ[Ｘ|Ｇ]∈Ｌ¹である。

(証明) (１),(５),(４)を順に用います。

Ｅ{|Ｅ[Ｘ_n|Ｇ]－Ｅ[Ｘ|Ｇ]|}＝Ｅ[|Ｅ[(Ｘ_n－Ｘ)|Ｇ]|] ≦ Ｅ[Ｅ{|Ｘ_n－Ｘ||Ｇ]＝Ｅ{|Ｘ_n－Ｘ|→ 0 as ｎ→ ∞ より,命題は証明されました。

(７) ＸとＧが独立なら,Ｅ[Ｘ|Ｇ]＝Ｅ[Ｘ]である。したがって,ｆをＲ上のボレル関数としてｆ(Ｘ)が可積分なら,Ｅ[ｆ(Ｘ)|Ｇ]＝Ｅ[ｆ(Ｘ)]である。

(証明) ＸとＧは独立なので,∀Ｂ∈Ｇに対してＥ[Ｘ,Ｂ]＝Ｅ[Ｘ]Ｐ(Ｂ)＝Ｅ[Ｅ[Ｘ],Ｂ]ですが,これはＥ[Ｘ|Ｇ]＝Ｅ[Ｘ]を意味します。

ＸとＧが独立なら,ｆ(Ｘ)とＧも独立になるのでＸの代わりにｆ(Ｘ)と置けばＥ[ｆ(Ｘ)|Ｇ]＝Ｅ[ｆ(Ｘ)]が得られます。

以上です。

参考文献：舟木直久著「確率微分方程式」(岩波書店)：小谷眞一 著「測度と確率」(岩波書店)

http://folomy.jp/heart/「folomy 物理フォーラム」サブマネージャーです。

人気blogランキングへ　← クリックして投票してください。(１クリック＝１投票です。１人１日１投票しかできません。）

http://homepage2.nifty.com/toshis-kaiga-auction/健康商品の店 「TRS健康ランド」

← クリックして投票してください。(ブログ村科学ブログランキング）

    物理学