Лоґіт-нормальний розподіл

Лоґіт-нормальний
Функція розподілу ймовірностей
Параметри	σ2 > 0 — квадрат параметра шкали (дійсне), μ ∈ R — параметр локації
Носій функції	x ∈ (0, 1)
Розподіл імовірностей	${\frac {1}{\sigma {\sqrt {2\pi }}}}\,e^{-{\frac {(\operatorname {logit} (x)-\mu )^{2}}{2\sigma ^{2}}}}{\frac {1}{x(1-x)}}$
Функція розподілу ймовірностей (cdf)	${\frac {1}{2}}{\Big [}1+\operatorname {erf} {\Big (}{\frac {\operatorname {logit} (x)-\mu }{\sqrt {2\sigma ^{2}}}}{\Big )}{\Big ]}$
Середнє	немає аналітичного вираження
Медіана	$P(\mu )\,$
Мода	немає аналітичного вираження
Дисперсія	немає аналітичного вираження
Твірна функція моментів (mgf)	немає аналітичного вираження

У теорії ймовірностей лоґіт-нормальний розподіл — це розподіл ймовірностей випадкової величини, лоґіт якого має нормальний розподіл. Якщо Y — випадкова величина з нормальним розподілом, а t — стандартна логістична функція, то X=t (Y) має лоґіт-нормальний розподіл; так само, якщо X має лоґіт-нормальний розподіл, то $Y={logit}(X)=log\left({\frac {X}{1-X}}\right)$ має нормальний розподіл. Він також відомий як лоґістичний нормальний розподіл, який часто відноситься до поліноміальної лоґіт-версії (наприклад див. ).

Змінну можна змоделювати як лоґіт-нормальною випадковою величиною, якщо це пропорція, яка обмежена нулем і одиницею, і де значення нуль і одиниця ніколи не зустрічаються.

Характеристика

Щільність ймовірності

Функція щільності ймовірності (PDF) лоґіт-нормального розподілу для 0 < x < 1:

$\operatorname {logit} (x)=\sigma ^{2}(2x-1)+\mu .$

де μ і σ є середнім і стандартним відхиленням лоґіту змінної (за визначенням, лоґіт змінної є нормально розподіленим).

Щільність, отримана шляхом зміни знака μ, є симетричною, оскільки вона дорівнює f(1-x;- μ, σ), зсуваючи моду в інший бік 0,5 (середина інтервалу (0,1)).

Моменти

Моменти лоґіт-нормального розподілу не мають аналітичного розв’язку. Моменти можна оцінити чисельним інтегруванням, однак числове інтегрування може бути непомірним, коли значення ${\textstyle \mu ,\sigma ^{2}}$ такі, що функція густини розбіжна до нескінченності в кінцевих точках нуль і один. Альтернативою є використання спостереження, що лоґіт-нормаль є перетворенням нормальної випадкової змінної. Це дозволяє нам наблизити $n$ -й момент через наступну квазіоцінку Монте-Карло $E[X^{n}]\approx {\frac {1}{K-1}}\sum _{i=1}^{K-1}\left(P\left(\Phi _{\mu ,\sigma ^{2}}^{-1}(i/K)\right)\right)^{n},$

де ${\textstyle P}$ стандартна логістична функція, і ${\textstyle \Phi _{\mu ,\sigma ^{2}}^{-1}}$ є оберненою кумулятивною функцією розподілу нормального розподілу із середнім і дисперсією ${\textstyle \mu ,\sigma ^{2}}$.

Графік логітнормальної щільности для різних комбінацій μ (граней) і σ (кольорів)

Мода або моди

Коли похідна густини дорівнює 0, то положення моди x задовольняє таке рівняння:

$f_{X}(x;\mu ,\sigma )={\frac {1}{\sigma {\sqrt {2\pi }}}}\,{\frac {1}{x(1-x)}}\,e^{-{\frac {(\operatorname {logit} (x)-\mu )^{2}}{2\sigma ^{2}}}}$

Для деяких значень параметрів існує два розвʼязки, тобто розподіл є бімодальним.

Багатовимірне узагальнення

Логістичний нормальний розподіл є узагальненням лоґіт-нормального розподілу у D-вимірні вектори ймовірностей шляхом логістичного перетворення багатовимірного нормального розподілу.

Щільність

Густина ймовірності:

$f_{X}(\mathbf {x} ;{\boldsymbol {\mu }},{\boldsymbol {\Sigma }})={\frac {1}{|2\pi {\boldsymbol {\Sigma }}|^{\frac {1}{2}}}}\,{\frac {1}{\prod \limits _{i=1}^{D}x_{i}}}\,e^{-{\frac {1}{2}}\left\{\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)-{\boldsymbol {\mu }}\right\}^{\top }{\boldsymbol {\Sigma }}^{-1}\left\{\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)-{\boldsymbol {\mu }}\right\}}\quad ,\quad \mathbf {x} \in {\mathcal {S}}^{D}\;\;,$

де $\mathbf {x} _{-D}$ позначає вектор перших (D-1) компонентів $\mathbf {x}$ і ${\mathcal {S}}^{D}$ позначає симплекс D-вимірних векторів ймовірностей. Застосування адитивного логістичного перетворення для відображення багатовимірної нормальної випадкової змінної $\mathbf {y} \sim {\mathcal {N}}\left({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}\right)\;,\;\mathbf {y} \in \mathbb {R} ^{D-1}$ до симплексу дає:

$\mathbf {x} =\left[{\frac {e^{y_{1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},\dots ,{\frac {e^{y_{D-1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},{\frac {1}{1+\sum _{i=1}^{D-1}e^{y_{i}}}}\right]^{\top }$

Ґаусові функції густини та відповідні логістичні нормальні функції густини після логістичного перетворення.

Унікальне обернене відображення задається:

$\mathbf {y} =\left[\log \left({\frac {x_{1}}{x_{D}}}\right),\dots ,\log \left({\frac {x_{D-1}}{x_{D}}}\right)\right]^{\top }$ .

Це випадок вектора x, сума компонентів якого дорівнює одиниці. У випадку х із сигмоїдальними елементами, тобто коли

$\mathbf {y} =\left[\log \left({\frac {x_{1}}{1-x_{1}}}\right),\dots ,\log \left({\frac {x_{D}}{1-x_{D}}}\right)\right]^{\top }$

отримаємо

$f_{X}(\mathbf {x} ;{\boldsymbol {\mu }},{\boldsymbol {\Sigma }})={\frac {1}{|2\pi {\boldsymbol {\Sigma }}|^{\frac {1}{2}}}}\,{\frac {1}{\prod \limits _{i=1}^{D}\left(x_{i}(1-x_{i})\right)}}\,e^{-{\frac {1}{2}}\left\{\log \left({\frac {\mathbf {x} }{1-\mathbf {x} }}\right)-{\boldsymbol {\mu }}\right\}^{\top }{\boldsymbol {\Sigma }}^{-1}\left\{\log \left({\frac {\mathbf {x} }{1-\mathbf {x} }}\right)-{\boldsymbol {\mu }}\right\}}$

де логарифмування і ділення аргументів здійснюється поелементно. Це забезпечується тим, що матриця Якобі перетворення є діагональною з елементами ${\frac {1}{x_{i}(1-x_{i})}}$ .

Використання в статистичному аналізі

Логістичний нормальний розподіл є більш гнучкою альтернативою розподілу Діріхле, оскільки він може фіксувати кореляції між компонентами векторів ймовірностей. Він також має потенціал для спрощення статистичного аналізу композиційних даних, дозволяючи відповідати на запитання про логарифмічні співвідношення компонентів векторів даних. Часто цікавлять в практичних задачах досліджують співвідношення, а не абсолютні значення компонентів.

Симплекс ймовірностей є обмеженим простором, що робить стандартні методи, які зазвичай застосовуються до векторів у $\mathbb {R} ^{n}$ менш значущими. Ейтчісон описав проблему несправжніх відʼємних кореляцій при застосуванні таких методів безпосередньо до симплексних векторів. Однак відображення композиційних даних в ${\mathcal {S}}^{D}$ шляхом зворотного адитивного логістичного перетворення дає дійснозначні дані в $\mathbb {R} ^{D-1}$. До цього представлення даних можна застосувати стандартні методи. Цей підхід виправдовує використання лоґіт-нормального розподілу, який, отже, можна розглядати як «Ґаусівський симплекс».

Зв'язок з розподілом Діріхле

Логіт-нормальне наближення розподілу Діріхле

Розподіл Діріхле та логіт-нормальний розподіл ніколи не є абсолютно рівними для будь-якого вибору параметрів. Однак Ейчісон описав метод апроксимації Діріхле з логістичною нормаллю, щоб їх розбіжність Кульбака–Лейблера (KL) була мінімімальна:

$K(p,q)=\int _{{\mathcal {S}}^{D}}p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)\log \left({\frac {p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)}{q\left(\mathbf {x} \mid {\boldsymbol {\mu }},{\boldsymbol {\Sigma }}\right)}}\right)\,d\mathbf {x}$

Мінімум набувається при:

${\boldsymbol {\mu }}^{*}=\mathbf {E} _{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]\quad ,\quad {\boldsymbol {\Sigma }}^{*}={\textbf {Var}}_{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]$

Використовуючи властивості моментів розподілу Діріхле, розв’язок можна записати через дигамму $\psi$ і тригамма $\psi '$ функції:

$\mu _{i}^{*}=\psi \left(\alpha _{i}\right)-\psi \left(\alpha _{D}\right)\quad ,\quad i=1,\ldots ,D-1$

$\Sigma _{ii}^{*}=\psi '\left(\alpha _{i}\right)+\psi '\left(\alpha _{D}\right)\quad ,\quad i=1,\ldots ,D-1$

$\Sigma _{ij}^{*}=\psi '\left(\alpha _{D}\right)\quad ,\quad i\neq j$

Це наближення особливо точне для великих ${\boldsymbol {\alpha }}$. Фактично, можна показати, що для $\alpha _{i}\rightarrow \infty ,i=1,\ldots ,D$, маємо$p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)\rightarrow q\left(\mathbf {x} \mid {\boldsymbol {\mu }}^{*},{\boldsymbol {\Sigma }}^{*}\right)$.

Див. також

• Бета-розподіл і розподіл Кумарасвамі, інші двопараметричні розподіли на обмеженому інтервалі з подібними формами

Посилання

• Frederic, P. & Lad, F. (2008) Two Moments of the Logitnormal Distribution. Communications in Statistics-Simulation and Computation. 37: 1263-1269 (англ.)
• Mead, R. (1965). A Generalised Logit-Normal Distribution. Biometrics. 21 (3): 721—732. doi:10.2307/2528553. JSTOR 2528553. PMID 5858101. (англ.)
• logitnorm package for R