tak0kadaの何でもノート

発声練習、生存確認用。

医学関連は 医学ノート

分布

KLダイバージェンス、JSダイバージェンス

# Kallback-Leiblerダイバージェンス def kld(p, q): p = np.array(p) q = np.array(q) return np.sum(p * np.log(p/q)) # Jensen-Shannonダイバージェンス def jsd(p, q): p = np.array(p) q = np.array(q) m = 0.5 * (p + q) return 0.5 * (kld(p, m) + kl…

ディリクレ分布を立体的に表示する

ディリクレ分布をRとpythonで描いてみるの続き。今回はRで書くのがしんどかったのでpythonのみ。

「確率と確率過程」を読んだ

ディリクレ過程が分かればLDAなど言語学で使われているモデルが理解できそうなので確率過程を勉強したい。オーム社の確率と確率過程を読んでいる。どうやらマルコフ過程(MCMCで使うやつ)やランダムウォークも理解できそうで去年やっていたことが少し理解でき…

指数分布とガンマ分布について

私の今後は?潜伏期・再発 - ryamadaの遺伝学・遺伝統計学メモでガンマ分布を扱っていた。ガンマ分布について調べていると指数分布にも関係があるようだったのでメモ。

Rの乱数関数の名前について

pxxxとqxxxを毎回逆に使ってしまうのでメモ。 名前 意味 rxxx 分布に従って乱数生成 dxxx 確率密度(PDF) pxxx 分位点を受け取って累積分布関数(CDF)を返す。 qxxx CDFを受け取って分位点を返す。 > sum(dbinom(x=0:5, size=10, prob=0.5)) [1] 0.6230469 > p…

ディリクレ分布をRとpythonで描いてみる

ディリクレ分布 $$ p(\mathbf{x}, \mathbf{\alpha}) = \dfrac{1}{B(\mathbf{\alpha})}\prod x_{i}^{a_{i}-1} $$ $$ B(\mathbf{\alpha}) = \dfrac{\prod(\Gamma a_i)}{\Gamma(\sum a_{i})} $$ ベータ分布と同じく式の中にベータ関数が含まれていて、多次元ベ…

2項分布、ベータ分布をRとpythonで描いてみる

2項分布 R $$ P(X=k) = \begin{pmatrix} n\\ k\\ \end{pmatrix} p^{k}(1-p)^{n-k} $$