Probabilidad posterior

Parte de una serie sobre
Estadísticas bayesianas
Posterior = Probabilidad × Anterior ÷ Evidencia
Fondo
Inferencia bayesiana Probabilidad bayesiana Teorema de Bayes Teorema de Bernstein-von Mises Coherencia Teorema de Cox El gobierno de Cromwell Principio de verosimilitud Principio de indiferencia Principio de máxima entropía
Construcción de modelos
Conjugado anterior Regresión lineal Bayes empírico Modelo jerárquico
Aproximación posterior
Cadena de Markov Monte Carlo Aproximación de Laplace Aproximaciones de Laplace anidadas integradas Inferencia variacional Cálculo bayesiano aproximado
Estimadores
Estimador bayesiano Intervalo creíble Estimación máxima a posteriori
Aproximación de evidencia
Límite inferior de evidencia Muestreo anidado
Evaluación del modelo
Factor de Bayes ( criterio de Schwarz ) Promedio del modelo Predicción posterior
Portal de matemáticas
en a mi

La probabilidad posterior es un tipo de probabilidad condicional que resulta de actualizar la probabilidad previa con información resumida por la probabilidad a través de una aplicación de la regla de Bayes . ^[1] Desde una perspectiva epistemológica , la probabilidad posterior contiene todo lo que hay que saber sobre una proposición incierta (como una hipótesis científica o valores de parámetros), dado el conocimiento previo y un modelo matemático que describe las observaciones disponibles en un momento particular. ^[2] Después de la llegada de nueva información, la probabilidad posterior actual puede servir como la previa en otra ronda de actualización bayesiana. ^[3]

En el contexto de las estadísticas bayesianas , la distribución de probabilidad posterior suele describir la incertidumbre epistémica sobre los parámetros estadísticos condicionados a una colección de datos observados. A partir de una distribución posterior dada, se pueden derivar varias estimaciones puntuales e interválicas , como el máximo a posteriori (MAP) o el intervalo de densidad posterior más alto (HPDI). ^[4] Pero, si bien conceptualmente es simple, la distribución posterior generalmente no es manejable y, por lo tanto, necesita ser aproximada analítica o numéricamente. ^[5]

En la estadística bayesiana, la probabilidad posterior es la probabilidad de los parámetros dada la evidencia , y se denota .${\displaystyle \theta }$${\displaystyle X}$${\displaystyle p(\theta |X)}$

Contrasta con la función de verosimilitud , que es la probabilidad de la evidencia dados los parámetros: .${\displaystyle p(X|\theta )}$

Los dos están relacionados de la siguiente manera:

Dada una creencia previa de que una función de distribución de probabilidad es y que las observaciones tienen una probabilidad , entonces la probabilidad posterior se define como ${\displaystyle p(\theta )}$${\displaystyle x}$${\displaystyle p(x|\theta )}$

${\displaystyle p(\theta |x)={\frac {p(x|\theta )}{p(x)}}p(\theta )}$, ^[6]

donde es la constante de normalización y se calcula como${\displaystyle p(x)}$

${\displaystyle p(x)=\int p(x|\theta )p(\theta )d\theta }$

para continua , o sumando todos los valores posibles de para discreta . ^[7]${\displaystyle \theta }$${\displaystyle p(x|\theta )p(\theta )}$${\displaystyle \theta }$${\displaystyle \theta }$

La probabilidad posterior es por tanto proporcional al producto Probabilidad · Probabilidad previa . ^[8]

Supongamos que en una escuela el 60% de los alumnos son niños y el 40% niñas. Las niñas llevan pantalones o faldas en igual número; todos los niños llevan pantalones. Un observador ve a un estudiante (al azar) desde la distancia; todo lo que puede ver es que este estudiante lleva pantalones. ¿Cuál es la probabilidad de que este estudiante sea una niña? La respuesta correcta se puede calcular utilizando el teorema de Bayes.

El evento es que el estudiante observado es una niña y el evento es que el estudiante observado lleva pantalones. Para calcular la probabilidad posterior , primero necesitamos saber:${\displaystyle G}$${\displaystyle T}$${\displaystyle P(G|T)}$

• ${\displaystyle P(G)}$, o la probabilidad de que el estudiante sea una niña independientemente de cualquier otra información. Dado que el observador ve un estudiante al azar, lo que significa que todos los estudiantes tienen la misma probabilidad de ser observados, y el porcentaje de niñas entre los estudiantes es del 40%, esta probabilidad es igual a 0,4.
• ${\displaystyle P(B)}$, o la probabilidad de que el estudiante no sea una niña (es decir, un niño) independientemente de cualquier otra información ( es el evento complementario de ). Esto es 60%, o 0,6.${\displaystyle B}$${\displaystyle G}$
• ${\displaystyle P(T|G)}$, o la probabilidad de que el estudiante use pantalones dado que es una niña. Como es tan probable que usen faldas como pantalones, esto es 0,5.
• ${\displaystyle P(T|B)}$, o la probabilidad de que el estudiante use pantalones dado que el estudiante es un niño. Esto se expresa como 1.
• ${\displaystyle P(T)}$, o la probabilidad de que un estudiante (seleccionado al azar) use pantalones independientemente de cualquier otra información. Dado que (según la ley de probabilidad total ), esto es .${\displaystyle P(T)=P(T|G)P(G)+P(T|B)P(B)}$${\displaystyle P(T)=0.5\times 0.4+1\times 0.6=0.8}$

Dada toda esta información, la probabilidad posterior de que el observador haya visto a una niña dado que el estudiante observado lleva pantalones se puede calcular sustituyendo estos valores en la fórmula:

${\displaystyle P(G|T)={\frac {P(T|G)P(G)}{P(T)}}={\frac {0.5\times 0.4}{0.8}}=0.25.}$

Una forma intuitiva de resolver esto es suponer que la escuela tiene N estudiantes. Número de niños = 0,6N y número de niñas = 0,4N. Si N es suficientemente grande, el número total de usuarios de pantalones = 0,6N + 50% de 0,4N. Y el número de niñas que usan pantalones = 50% de 0,4N. Por lo tanto, en la población de pantalones, las niñas son (50% de 0,4N) / (0,6N + 50% de 0,4N) = 25%. En otras palabras, si separas el grupo de usuarios de pantalones, una cuarta parte de ese grupo serán niñas. Por lo tanto, si ves pantalones, lo máximo que puedes deducir es que estás viendo una sola muestra de un subconjunto de estudiantes donde el 25% son niñas. Y, por definición, la probabilidad de que este estudiante aleatorio sea una niña es del 25%. Todos los problemas del teorema de Bayes se pueden resolver de esta manera. ^[9]

La distribución de probabilidad posterior de una variable aleatoria dado el valor de otra se puede calcular con el teorema de Bayes multiplicando la distribución de probabilidad anterior por la función de verosimilitud y luego dividiéndola por la constante normalizadora , de la siguiente manera:

${\displaystyle f_{X\mid Y=y}(x)={f_{X}(x){\mathcal {L}}_{X\mid Y=y}(x) \over {\int _{-\infty }^{\infty }f_{X}(u){\mathcal {L}}_{X\mid Y=y}(u)\,du}}}$

da la función de densidad de probabilidad posterior para una variable aleatoria dados los datos , donde${\displaystyle X}$${\displaystyle Y=y}$

• ${\displaystyle f_{X}(x)}$es la densidad previa de ,${\displaystyle X}$
• ${\displaystyle {\mathcal {L}}_{X\mid Y=y}(x)=f_{Y\mid X=x}(y)}$es la función de verosimilitud en función de ,${\displaystyle x}$
• ${\displaystyle \int _{-\infty }^{\infty }f_{X}(u){\mathcal {L}}_{X\mid Y=y}(u)\,du}$es la constante normalizadora, y
• ${\displaystyle f_{X\mid Y=y}(x)}$es la densidad posterior de los datos dados . ^[10]${\displaystyle X}$${\displaystyle Y=y}$

La probabilidad posterior es una probabilidad condicional condicionada a datos observados aleatoriamente. Por lo tanto, es una variable aleatoria. En el caso de una variable aleatoria, es importante resumir su grado de incertidumbre. Una forma de lograr este objetivo es proporcionar un intervalo creíble de la probabilidad posterior. ^[11]

En la clasificación , las probabilidades posteriores reflejan la incertidumbre de evaluar una observación a una clase particular, véase también probabilidades de pertenencia a una clase . Si bien los métodos de clasificación estadística generan por definición probabilidades posteriores, los aprendices automáticos suelen proporcionar valores de pertenencia que no inducen ninguna confianza probabilística. Es deseable transformar o reescalar los valores de pertenencia a probabilidades de pertenencia a una clase, ya que son comparables y, además, más fácilmente aplicables para el posprocesamiento. ^[12]

• Intervalo de predicción
• Teorema de Bernstein-von Mises
• Probabilidad de éxito
• Epistemología bayesiana
• Algoritmo Metropolis-Hastings

• Lancaster, Tony (2004). Introducción a la econometría bayesiana moderna . Oxford: Blackwell. ISBN 1-4051-1720-6.
• Lee, Peter M. (2004). Estadística bayesiana: una introducción (3.ª ed.). Wiley . ISBN 0-340-81405-5.