f-divergencia

This article includes a list of general references, but it lacks sufficient corresponding inline citations. Please help to improve this article by introducing more precise citations. (September 2015) (Learn how and when to remove this message)

En teoría de la probabilidad , una divergencia es un tipo determinado de función que mide la diferencia entre dos distribuciones de probabilidad y . Muchas divergencias comunes, como la divergencia KL , la distancia de Hellinger y la distancia de variación total , son casos especiales de divergencia.${\displaystyle f}$${\displaystyle D_{f}(P\|Q)}$ ${\displaystyle P}$${\displaystyle Q}$${\displaystyle f}$

Estas divergencias fueron introducidas por Alfréd Rényi ^[1] en el mismo artículo donde introdujo la conocida entropía de Rényi . Demostró que estas divergencias disminuyen en los procesos de Markov . Las divergencias f fueron estudiadas más a fondo de forma independiente por Csiszár (1963), Morimoto (1963) y Ali & Silvey (1966) y a veces se conocen como divergencias de Csiszár, divergencias de Csiszár–Morimoto o distancias de Ali–Silvey.${\displaystyle f}$

Sean y dos distribuciones de probabilidad sobre un espacio , tal que , es decir, es absolutamente continua con respecto a . Entonces, para una función convexa tal que es finita para todo , , y (que podría ser infinita), la -divergencia de de se define como${\displaystyle P}$${\displaystyle Q}$${\displaystyle \Omega }$${\displaystyle P\ll Q}$${\displaystyle P}$${\displaystyle Q}$ ${\displaystyle f:[0,+\infty )\to (-\infty ,+\infty ]}$${\displaystyle f(x)}$${\displaystyle x>0}$${\displaystyle f(1)=0}$${\displaystyle f(0)=\lim _{t\to 0^{+}}f(t)}$${\displaystyle f}$${\displaystyle P}$${\displaystyle Q}$

${\displaystyle D_{f}(P\parallel Q)\equiv \int _{\Omega }f\left({\frac {dP}{dQ}}\right)\,dQ.}$

Llamamos al generador de .${\displaystyle f}$${\displaystyle D_{f}}$

En aplicaciones concretas, normalmente hay una distribución de referencia en (por ejemplo, cuando , la distribución de referencia es la medida de Lebesgue ), tal que , entonces podemos usar el teorema de Radon-Nikodym para tomar sus densidades de probabilidad y , dando ${\displaystyle \mu }$${\displaystyle \Omega }$${\displaystyle \Omega =\mathbb {R} ^{n}}$${\displaystyle P,Q\ll \mu }$ ${\displaystyle p}$${\displaystyle q}$

${\displaystyle D_{f}(P\parallel Q)=\int _{\Omega }f\left({\frac {p(x)}{q(x)}}\right)q(x)\,d\mu (x).}$

Cuando no se dispone de una distribución de referencia de este tipo, podemos simplemente definir y proceder como se indicó anteriormente. Esta es una técnica útil en pruebas más abstractas.${\displaystyle \mu =P+Q}$

La definición anterior puede extenderse a los casos en que ya no se cumple (Definición 7.1 de ^[2] ).${\displaystyle P\ll Q}$

Como es convexo, y , la función debe ser no decreciente, por lo que existe , que toma valor en .${\displaystyle f}$${\displaystyle f(1)=0}$${\displaystyle {\frac {f(x)}{x-1}}}$${\displaystyle f'(\infty ):=\lim _{x\to \infty }f(x)/x}$${\displaystyle (-\infty ,+\infty ]}$

Dado que para cualquier , tenemos , podemos extender la f-divergencia a .${\displaystyle p(x)>0}$${\displaystyle \lim _{q(x)\to 0}q(x)f\left({\frac {p(x)}{q(x)}}\right)=p(x)f'(\infty )}$${\displaystyle P\not \ll Q}$

• Linealidad: dada una secuencia finita de números reales no negativos y generadores .${\displaystyle D_{\sum _{i}a_{i}f_{i}}=\sum _{i}a_{i}D_{f_{i}}}$${\displaystyle a_{i}}$${\displaystyle f_{i}}$

• ${\displaystyle D_{f}=D_{g}}$si para algunos .${\displaystyle f(x)=g(x)+c(x-1)}$${\displaystyle c\in \mathbb {R} }$

En particular, la monotonía implica que si un proceso de Markov tiene una distribución de probabilidad de equilibrio positiva , entonces es una función monótona (no creciente) del tiempo, donde la distribución de probabilidad es una solución de las ecuaciones directas de Kolmogorov (o ecuación maestra ), utilizada para describir la evolución temporal de la distribución de probabilidad en el proceso de Markov. Esto significa que todas las f -divergencias son las funciones de Lyapunov de las ecuaciones directas de Kolmogorov. La afirmación inversa también es verdadera: Si es una función de Lyapunov para todas las cadenas de Markov con equilibrio positivo y es de la forma traza ( ) entonces , para alguna función convexa f . ^{[3] [4]} Por ejemplo, las divergencias de Bregman en general no tienen dicha propiedad y pueden aumentar en los procesos de Markov. ^[5]${\displaystyle P^{*}}$${\displaystyle D_{f}(P(t)\parallel P^{*})}$${\displaystyle P(t)}$${\displaystyle D_{f}(P(t)\parallel P^{*})}$${\displaystyle H(P)}$${\displaystyle P^{*}}$${\displaystyle H(P)=\sum _{i}f(P_{i},P_{i}^{*})}$${\displaystyle H(P)=D_{f}(P(t)\parallel P^{*})}$

Las f-divergencias pueden expresarse utilizando series de Taylor y reescribirse utilizando una suma ponderada de distancias de tipo chi (Nielsen y Nock (2013)).

Sea el conjugado convexo de . Sea el dominio efectivo de , es decir, . Entonces tenemos dos representaciones variacionales de , que describimos a continuación.${\displaystyle f^{*}}$${\displaystyle f}$${\displaystyle \mathrm {effdom} (f^{*})}$${\displaystyle f^{*}}$${\displaystyle \mathrm {effdom} (f^{*})=\{y:f^{*}(y)<\infty \}}$${\displaystyle D_{f}}$

Con la configuración anterior,

Este es el teorema 7,24. ^[2]

Usando este teorema sobre la distancia de variación total, con generador su conjugado convexo es , y obtenemos Para la divergencia chi-cuadrado, definida por , obtenemos Dado que el término de variación no es afín-invariante en , aunque el dominio sobre el cual varía es afín-invariante, podemos usar la invariancia afín para obtener una expresión más simple. ${\displaystyle f(x)={\frac {1}{2}}|x-1|,}$${\displaystyle f^{*}(x^{*})={\begin{cases}x^{*}{\text{ on }}[-1/2,1/2],\\+\infty {\text{ else.}}\end{cases}}}$$${\displaystyle TV(P\|Q)=\sup _{|g|\leq 1/2}E_{P}[g(X)]-E_{Q}[g(X)].}$$${\displaystyle f(x)=(x-1)^{2},f^{*}(y)=y^{2}/4+y}$$${\displaystyle \chi ^{2}(P;Q)=\sup _{g}E_{P}[g(X)]-E_{Q}[g(X)^{2}/4+g(X)].}$$${\displaystyle g}$${\displaystyle g}$

Reemplazando por y tomando el máximo sobre , obtenemos que está a sólo unos pasos del límite de Hammersley–Chapman–Robbins y del límite de Cramér–Rao (Teorema 29.1 y su corolario en ^[2] ). ${\displaystyle g}$${\displaystyle ag+b}$${\displaystyle a,b\in \mathbb {R} }$$${\displaystyle \chi ^{2}(P;Q)=\sup _{g}{\frac {(E_{P}[g(X)]-E_{Q}[g(X)])^{2}}{Var_{Q}[g(X)]}},}$$

Para -divergencia con , tenemos , con rango . Su conjugado convexo es con rango , donde .${\displaystyle \alpha }$${\displaystyle \alpha \in (-\infty ,0)\cup (0,1)}$${\displaystyle f_{\alpha }(x)={\frac {x^{\alpha }-\alpha x-(1-\alpha )}{\alpha (\alpha -1)}}}$${\displaystyle x\in [0,\infty )}$${\displaystyle f_{\alpha }^{*}(y)={\frac {1}{\alpha }}(x(y)^{\alpha }-1)}$${\displaystyle y\in (-\infty ,(1-\alpha )^{-1})}$${\displaystyle x(y)=((\alpha -1)y+1)^{\frac {1}{\alpha -1}}}$

La aplicación de este teorema produce, después de sustituir con , o, liberando la restricción en , El establecimiento produce la representación variacional de la -divergencia obtenida anteriormente. ${\displaystyle h=((\alpha -1)g+1)^{\frac {1}{\alpha -1}}}$$${\displaystyle D_{\alpha }(P\|Q)={\frac {1}{\alpha (1-\alpha )}}-\inf _{h:\Omega \to (0,\infty )}\left(E_{Q}\left[{\frac {h^{\alpha }}{\alpha }}\right]+E_{P}\left[{\frac {h^{\alpha -1}}{1-\alpha }}\right]\right),}$$${\displaystyle h}$$${\displaystyle D_{\alpha }(P\|Q)={\frac {1}{\alpha (1-\alpha )}}-\inf _{h:\Omega \to \mathbb {R} }\left(E_{Q}\left[{\frac {|h|^{\alpha }}{\alpha }}\right]+E_{P}\left[{\frac {|h|^{\alpha -1}}{1-\alpha }}\right]\right).}$$${\displaystyle \alpha =-1}$${\displaystyle \chi ^{2}}$

El dominio sobre el cual varía no es invariante afín en general, a diferencia del caso de la divergencia. La divergencia es especial, ya que en ese caso podemos eliminar el de . ${\displaystyle h}$${\displaystyle \chi ^{2}}$${\displaystyle \chi ^{2}}$${\displaystyle |\cdot |}$${\displaystyle |h|}$

Para general , el dominio sobre el cual varía es simplemente invariante de escala. De manera similar a lo anterior, podemos reemplazar por , y tomar el mínimo para obtener Si establecemos , y realizamos otra sustitución por , obtenemos dos representaciones variacionales de la distancia Hellinger al cuadrado: Si aplicamos este teorema a la divergencia KL, definida por , obtenemos Esto es estrictamente menos eficiente que la representación de Donsker-Varadhan Este defecto se corrige con el siguiente teorema.${\displaystyle \alpha \in (-\infty ,0)\cup (0,1)}$${\displaystyle h}$${\displaystyle h}$${\displaystyle ah}$${\displaystyle a>0}$$${\displaystyle D_{\alpha }(P\|Q)=\sup _{h>0}\left[{\frac {1}{\alpha (1-\alpha )}}\left(1-{\frac {E_{P}[h^{\alpha -1}]^{\alpha }}{E_{Q}[h^{\alpha }]^{\alpha -1}}}\right)\right].}$$${\displaystyle \alpha ={\frac {1}{2}}}$${\displaystyle g={\sqrt {h}}}$$${\displaystyle H^{2}(P\|Q)={\frac {1}{2}}D_{1/2}(P\|Q)=2-\inf _{h>0}\left(E_{Q}\left[h(X)\right]+E_{P}\left[h(X)^{-1}\right]\right),}$$$${\displaystyle H^{2}(P\|Q)=2\sup _{h>0}\left(1-{\sqrt {E_{P}[h^{-1}]E_{Q}[h]}}\right).}$$${\displaystyle f(x)=x\ln x,f^{*}(y)=e^{y-1}}$$${\displaystyle D_{KL}(P;Q)=\sup _{g}E_{P}[g(X)]-e^{-1}E_{Q}[e^{g(X)}].}$$$${\displaystyle D_{KL}(P;Q)=\sup _{g}E_{P}[g(X)]-\ln E_{Q}[e^{g(X)}].}$$

Supongamos la configuración presentada al comienzo de esta sección ("Representaciones variacionales").

Este es el teorema 7,25. ^[2]

La aplicación de este teorema a la divergencia KL produce la representación de Donsker-Varadhan.

Intentar aplicar este teorema a la divergencia general con no produce una solución de forma cerrada.${\displaystyle \alpha }$${\displaystyle \alpha \in (-\infty ,0)\cup (0,1)}$

En la siguiente tabla se enumeran muchas de las divergencias comunes entre distribuciones de probabilidad y las posibles funciones generadoras a las que corresponden. Cabe destacar que, a excepción de la distancia de variación total, todas las demás son casos especiales de divergencia o sumas lineales de divergencias. ${\displaystyle \alpha }$${\displaystyle \alpha }$

Para cada f-divergencia , su función generadora no está definida de forma única, sino solo hasta , donde es una constante real cualquiera. Es decir, para cualquier que genere una f-divergencia, tenemos . Esta libertad no solo es conveniente, sino realmente necesaria.${\displaystyle D_{f}}$${\displaystyle c\cdot (t-1)}$${\displaystyle c}$${\displaystyle f}$${\displaystyle D_{f(t)}=D_{f(t)+c\cdot (t-1)}}$

Divergencia	f(t) correspondiente	Forma discreta
${\displaystyle \chi ^{\alpha }}$-divergencia,${\displaystyle \alpha \geq 1\,}$	${\displaystyle {\frac {1}{2}}|t-1|^{\alpha }\,}$	${\displaystyle {\frac {1}{2}}\sum _{i}\left|{\frac {p_{i}-q_{i}}{q_{i}}}\right|^{\alpha }q_{i}\,}$
Distancia de variación total ( )${\displaystyle \alpha =1\,}$	${\displaystyle {\frac {1}{2}}|t-1|\,}$	${\displaystyle {\frac {1}{2}}\sum _{i}|p_{i}-q_{i}|\,}$
α-divergencia	${\displaystyle {\begin{cases}{\frac {t^{\alpha }-\alpha t-\left(1-\alpha \right)}{\alpha \left(\alpha -1\right)}}&{\text{if}}\ \alpha \neq 0,\,\alpha \neq 1,\\t\ln t-t+1,&{\text{if}}\ \alpha =1,\\-\ln t+t-1,&{\text{if}}\ \alpha =0\end{cases}}}$
Divergencia KL ( )${\displaystyle \alpha =1}$	${\displaystyle t\ln t}$	${\displaystyle \sum _{i}p_{i}\ln {\frac {p_{i}}{q_{i}}}}$
divergencia KL inversa ( )${\displaystyle \alpha =0}$	${\displaystyle -\ln t}$	${\displaystyle \sum _{i}q_{i}\ln {\frac {q_{i}}{p_{i}}}}$
Divergencia de Jensen-Shannon	${\displaystyle {\frac {1}{2}}\left(t\ln t-(t+1)\ln \left({\frac {t+1}{2}}\right)\right)}$	${\displaystyle {\frac {1}{2}}\sum _{i}\left(p_{i}\ln {\frac {p_{i}}{(p_{i}+q_{i})/2}}+q_{i}\ln {\frac {q_{i}}{(p_{i}+q_{i})/2}}\right)}$
Divergencia de Jeffreys (KL + KL inversa)	${\displaystyle (t-1)\ln(t)}$	${\displaystyle \sum _{i}(p_{i}-q_{i})\ln {\frac {p_{i}}{q_{i}}}}$
distancia Hellinger al cuadrado ( )${\displaystyle \alpha ={\frac {1}{2}}}$	${\displaystyle {\frac {1}{2}}({\sqrt {t}}-1)^{2},\,1-{\sqrt {t}}}$	${\displaystyle {\frac {1}{2}}\sum _{i}({\sqrt {p_{i}}}-{\sqrt {q_{i}}})^{2};\;1-\sum _{i}{\sqrt {p_{i}q_{i}}}}$
Divergencia de Pearson (reescalamiento de )${\displaystyle \chi ^{2}}$${\displaystyle \alpha =2}$	${\displaystyle (t-1)^{2},\,t^{2}-1,\,t^{2}-t}$	${\displaystyle \sum _{i}{\frac {(p_{i}-q_{i})^{2}}{q_{i}}}}$
Neyman - divergencia (Pearson inverso)${\displaystyle \chi ^{2}}$ (reescalado de )${\displaystyle \alpha =-1}$	${\displaystyle {\frac {1}{t}}-1,\,{\frac {1}{t}}-t}$	${\displaystyle 2+\sum _{i}{\frac {(p_{i}-q_{i})^{2}}{p_{i}}}}$

Sea el generador de la divergencia , entonces y son inversiones convexas entre sí, por lo que . En particular, esto demuestra que la distancia al cuadrado de Hellinger y la divergencia de Jensen-Shannon son simétricas.${\displaystyle f_{\alpha }}$${\displaystyle \alpha }$${\displaystyle f_{\alpha }}$${\displaystyle f_{1-\alpha }}$${\displaystyle D_{\alpha }(P\|Q)=D_{1-\alpha }(Q\|P)}$

En la literatura, las divergencias a veces se parametrizan como${\displaystyle \alpha }$

${\displaystyle {\begin{cases}{\frac {4}{1-\alpha ^{2}}}{\big (}1-t^{(1+\alpha )/2}{\big )},&{\text{if}}\ \alpha \neq \pm 1,\\t\ln t,&{\text{if}}\ \alpha =1,\\-\ln t,&{\text{if}}\ \alpha =-1\end{cases}}}$

lo que equivale a la parametrización en esta página sustituyendo .${\displaystyle \alpha \leftarrow {\frac {\alpha +1}{2}}}$

Aquí, comparamos las divergencias f con otras divergencias estadísticas .

Las divergencias de Rényi son una familia de divergencias definidas por

${\displaystyle R_{\alpha }(P\|Q)={\frac {1}{\alpha -1}}\log {\Bigg (}E_{Q}\left[\left({\frac {dP}{dQ}}\right)^{\alpha }\right]{\Bigg )}\,}$

cuando . Se extiende a los casos de tomando el límite.${\displaystyle \alpha \in (0,1)\cup (1,+\infty )}$${\displaystyle \alpha =0,1,+\infty }$

El álgebra simple muestra que , donde es la -divergencia definida anteriormente.${\displaystyle R_{\alpha }(P\|Q)={\frac {1}{\alpha -1}}\ln(1+\alpha (\alpha -1)D_{\alpha }(P\|Q))}$${\displaystyle D_{\alpha }}$${\displaystyle \alpha }$

La única divergencia f que también es una divergencia de Bregman es la divergencia KL. ^[6]

La única f-divergencia que también es una métrica de probabilidad integral es la variación total. ^[7]

Un par de distribuciones de probabilidad puede considerarse como un juego de azar en el que una de las distribuciones define las probabilidades oficiales y la otra contiene las probabilidades reales. El conocimiento de las probabilidades reales permite a un jugador obtener beneficios del juego. Para una clase grande de jugadores racionales, la tasa de beneficio esperada tiene la misma forma general que la divergencia ƒ . ^[8]

• Divergencia de Kullback-Leibler
• Divergencia de Bregman