何度か勉強しているのだけれど、毎回確認しているのでブログに書いておく。
数式転がし
確率変数 $X$ に対して、その関数の確率分布を求める。（例: $X^2$, $\log(X)$)
変換の関数を$Y=\phi(X)$とする。$\phi(x)$は単調増加。
$\phi(x)$は単調増加であるから、$x \leq X \leq x + \Delta x$と$Y \leq Y \leq y + \Delta y$は論理的に同値であるので、
\begin{align} P(y \leq Y \leq y + \Delta y) = P(x \leq X \leq x + \Delta x) \end{align}
確率変数$X$, $Y$の密度関数を$f(x)$, $g(y)$とおく。
ここで、$P(x \leq X \leq x + \Delta x) = f(x) \Delta x$であるから、
\begin{align} g(y) = f(x) \Delta x / \Delta y \approx f(x) ( dx / dy ) \end{align}
となる。
関数$y=\phi(x)$をxについて解いた逆関数を$x=\psi(y)$とすると、
\begin{align} g(y) = f(\psi(y)) * | d \psi(y) / d y | \end{align}
として求められる。
例
確率変数$X \sim uni(0, 1)$に対して、
$y = x^2$（ただし$0 \leq x$)と変換する時の密度関数を求める。
$y = \phi(x) = x^2$の逆関数は、$x = \psi(y) = \sqrt{y}$となる。
よって、
\begin{align} g(y) &= f(\psi(y)) * | d \psi(y) / d y | \\\\ & = 1 * d / dy \sqrt{y} \\\\ & = \frac{1}{2 \sqrt{y}} \end{align}
となる。