tak0kadaの何でもノート

発声練習、生存確認用。

医学関連は 医学ノート

多次元正規分布の導出

※分布の計算は院試に出ません

準備

独立な平均0、分散1の正規分布n個により$Z = (Z_{0}, Z_{1}, \cdots, Z_{n-1})$と表されるZの分布を考えると、

 
\begin{align}
f_{Z}(x) &= &\prod_{i}f_{z_{i}}(x_{i})\\\\
          &= &\frac{1}{\sqrt{2\pi}^{N}}exp(-1/2\prod{x_{i}^{2}})\\\\
          &= &\frac{1}{\sqrt{(2\pi)^{N}|\Sigma|}}exp(-1/2x^{T}\Sigma x)
\end{align}

ただし \Sigma = diag(1,1,\cdots,1)

アフィン変換

$L(X) = AX+b$を考え、上の分布を変形する。$X=AZ+b$とおくと、 $$ E[X] = E[AX+b] = E[A]E[X] + E[b] (\because \text{Slutskyの定理}) = b\\ V[X] = E[(X-E[X])(X-E[X])^{T}] = AV[Z]A^{T} = AA^{T} $$ ここで、 A=\Sigma^{1/2}, \Sigma=V[X], b=\muとおけば、


\begin{align}
g(x) &= &f(Z)|det(\frac{dz}{dx})|&\\\\
     &= &f(L^{-1}(X))|det(\frac{dL^{-1}(x)}{dx})|\\\\
     &= &f(\Sigma^{-1/2}(x-\mu))|det(\frac{d\Sigma^{-1/2}(x-\mu)}{dx})|\\\\
     &= &f(\Sigma^{-1/2}(x-\mu))\frac{1}{\sqrt{|\Sigma|}}\\\\
     &= &\frac{1}{\sqrt{(2\pi)^{N}}}\frac{1}{\sqrt{|\Sigma|}}exp(-\frac{1}{2}(\Sigma^{-1/2}(x-\mu))^{T}(\Sigma^{-1/2}(x-\mu)))\\\\
     &= &\frac{1}{\sqrt{(2\pi)^{N}}}\frac{1}{\sqrt{|\Sigma|}}exp(-\frac{1}{2}(x-\mu)^{T}\Sigma^{-1}(x-\mu))\\\\
     &= &\frac{1}{\sqrt{|2\pi\Sigma|}}exp(-\frac{1}{2}(x-\mu)^{T}\Sigma^{-1}(x-\mu))\\\\
\end{align}

この分布は平均$\mu$、分散(共分散行列) \Sigmaで定められ、 X \sim N(\mu, \Sigma)と表記される。逆にこの分布は周辺化すると1次元の正規分布が得られる(はず)。

参考