Ley de los grandes números

Parte de una serie sobre estadísticas
Teoría de la probabilidad
Probabilidad Axiomas Determinismo Sistema Indeterminismo Aleatoriedad
Espacio de probabilidad Espacio muestral Evento Eventos colectivamente exhaustivos Evento elemental Exclusividad mutua Resultado Semifallo Experimento El proceso de Bernoulli Distribución de probabilidad Distribución de Bernoulli Distribución binomial Distribución exponencial Distribución normal Distribución de Pareto Distribución de Poisson Medida de probabilidad Variable aleatoria Proceso de Bernoulli Continuous or discrete Expected value Variance Markov chain Observed value Random walk Stochastic process
Complementary event Joint probability Marginal probability Conditional probability
Independence Conditional independence Law of total probability Law of large numbers Bayes' theorem Boole's inequality
Venn diagram Tree diagram
v t e

En teoría de probabilidad , la ley de los grandes números ( LLN ) es una ley matemática que establece que el promedio de los resultados obtenidos de un gran número de muestras aleatorias independientes converge al valor verdadero, si existe. ^[1] Más formalmente, la LLN establece que dada una muestra de valores independientes e idénticamente distribuidos, la media de la muestra converge a la media verdadera .

El LLN es importante porque garantiza resultados estables a largo plazo para los promedios de algunos eventos aleatorios . ^{[1] [2]} Por ejemplo, mientras que un casino puede perder dinero en un solo giro de la ruleta , sus ganancias tenderán hacia un porcentaje predecible a lo largo de una gran cantidad de giros. Cualquier racha ganadora de un jugador eventualmente será superada por los parámetros del juego. Es importante destacar que la ley se aplica (como indica el nombre) solo cuando se considera una gran cantidad de observaciones. No existe ningún principio de que una pequeña cantidad de observaciones coincidirá con el valor esperado o de que una racha de un valor será inmediatamente "equilibrada" por los demás (ver la falacia del jugador ).

La LLN sólo se aplica al promedio de los resultados obtenidos a partir de ensayos repetidos y afirma que este promedio converge al valor esperado; no afirma que la suma de n resultados se acerca al valor esperado multiplicado por n a medida que n aumenta.

A lo largo de su historia, muchos matemáticos han perfeccionado esta ley. Hoy en día, el LLN se utiliza en muchos campos, entre ellos la estadística, la teoría de la probabilidad, la economía y los seguros. ^[3]

Por ejemplo, si se lanza un dado de seis caras, se obtiene uno de los números 1, 2, 3, 4, 5 o 6, cada uno con la misma probabilidad . Por lo tanto, el valor esperado del promedio de los lanzamientos es:

$${\displaystyle {\frac {1+2+3+4+5+6}{6}}=3.5}$$

Según la ley de los grandes números, si se lanza una gran cantidad de dados de seis caras, el promedio de sus valores (a veces llamado media de la muestra ) se acercará a 3,5 y la precisión aumentará a medida que se lancen más dados.

De la ley de los grandes números se desprende que la probabilidad empírica de éxito en una serie de ensayos de Bernoulli convergerá a la probabilidad teórica. Para una variable aleatoria de Bernoulli , el valor esperado es la probabilidad teórica de éxito, y el promedio de n de dichas variables (suponiendo que sean independientes e idénticamente distribuidas (iid) ) es precisamente la frecuencia relativa.

Por ejemplo, un lanzamiento de moneda justo es un ensayo de Bernoulli. Cuando se lanza una moneda justa una vez, la probabilidad teórica de que el resultado sea cara es igual a 1 ⁄ 2 . Por lo tanto, de acuerdo con la ley de los grandes números, la proporción de caras en una "gran" cantidad de lanzamientos de moneda "debería ser" aproximadamente 1 ⁄ 2 . En particular, la proporción de caras después de n lanzamientos casi seguramente convergerá a 1 ⁄ 2 a medida que n se acerque al infinito.

Aunque la proporción de caras (y cruces) se acerca a 1 ⁄ 2 , es casi seguro que la diferencia absoluta en el número de caras y cruces se hará grande a medida que el número de lanzamientos se hace grande. Es decir, la probabilidad de que la diferencia absoluta sea un número pequeño se acerca a cero a medida que el número de lanzamientos se hace grande. Además, es casi seguro que la relación entre la diferencia absoluta y el número de lanzamientos se acercará a cero. Intuitivamente, la diferencia esperada crece, pero a un ritmo más lento que el número de lanzamientos.

Otro buen ejemplo de LLN es el método de Monte Carlo . Estos métodos son una amplia clase de algoritmos computacionales que se basan en muestreos aleatorios repetidos para obtener resultados numéricos. Cuanto mayor sea el número de repeticiones, mejor suele ser la aproximación. La razón por la que este método es importante es principalmente que, a veces, es difícil o imposible utilizar otros enfoques. ^[4]

El promedio de los resultados obtenidos a partir de un gran número de ensayos puede no converger en algunos casos. Por ejemplo, el promedio de n resultados tomados de la distribución de Cauchy o algunas distribuciones de Pareto (α<1) no convergerá a medida que n se hace más grande; la razón son las colas pesadas . ^[5] La distribución de Cauchy y la distribución de Pareto representan dos casos: la distribución de Cauchy no tiene una expectativa, ^[6] mientras que la expectativa de la distribución de Pareto ( α <1) es infinita. ^[7] Una forma de generar el ejemplo distribuido por Cauchy es donde los números aleatorios son iguales a la tangente de un ángulo distribuido uniformemente entre −90° y +90°. ^[8] La mediana es cero, pero el valor esperado no existe, y de hecho el promedio de n de tales variables tiene la misma distribución que una de esas variables. No converge en probabilidad hacia cero (o cualquier otro valor) a medida que n tiende a infinito.

Y si los ensayos contienen un sesgo de selección , típico del comportamiento económico/racional humano, la ley de los grandes números no ayuda a resolver el sesgo. Incluso si se aumenta el número de ensayos, el sesgo de selección persiste.

El matemático italiano Gerolamo Cardano (1501-1576) afirmó sin pruebas que la precisión de las estadísticas empíricas tiende a mejorar con el número de ensayos. ^{[9] [3]} Esto se formalizó luego como una ley de los grandes números. Una forma especial del LLN (para una variable aleatoria binaria) fue demostrada por primera vez por Jacob Bernoulli . ^{[10] [3]} Le llevó más de 20 años desarrollar una prueba matemática suficientemente rigurosa que se publicó en su Ars Conjectandi ( El arte de conjeturar ) en 1713. Lo llamó su "Teorema de Oro", pero se conoció generalmente como " Teorema de Bernoulli ". Esto no debe confundirse con el principio de Bernoulli , llamado así por el sobrino de Jacob Bernoulli, Daniel Bernoulli . En 1837, SD Poisson lo describió con más detalle bajo el nombre de "la loi des grands nombres" ("la ley de los grandes números"). ^{[11] [12] [3]} Posteriormente se conoció con ambos nombres, pero el más frecuentemente utilizado es el de "ley de los grandes números".

Después de que Bernoulli y Poisson publicaran sus trabajos, otros matemáticos también contribuyeron al refinamiento de la ley, incluyendo a Chebyshev , ^[13] Markov , Borel , Cantelli , Kolmogorov y Khinchin . ^[3] Markov demostró que la ley puede aplicarse a una variable aleatoria que no tiene una varianza finita bajo algún otro supuesto más débil, y Khinchin demostró en 1929 que si la serie consiste en variables aleatorias independientes idénticamente distribuidas, es suficiente que exista el valor esperado para que la ley débil de los grandes números sea verdadera. ^{[14] [15]} Estos estudios posteriores han dado lugar a dos formas destacadas de la LLN. Una se llama ley "débil" y la otra ley "fuerte", en referencia a dos modos diferentes de convergencia de las medias de la muestra acumulada al valor esperado; en particular, como se explica a continuación, la forma fuerte implica la débil. ^[14]

Hay dos versiones diferentes de la ley de los grandes números que se describen a continuación. Se denominan ley fuerte de los grandes números y ley débil de los grandes números . ^{[16] [1]} Enunciada para el caso en el que X ₁ , X ₂ , ... es una secuencia infinita de variables aleatorias integrables de Lebesgue independientes e idénticamente distribuidas (iid) con valor esperado E( X ₁ ) = E( X ₂ ) = ... = μ , ambas versiones de la ley establecen que el promedio de la muestra

$${\displaystyle {\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\cdots +X_{n})}$$

converge al valor esperado:

$${\displaystyle {\overline {X}}_{n}\to \mu \quad {\textrm {as}}\ n\to \infty .}$$

( 1 )

(La integrabilidad de Lebesgue de X _j significa que el valor esperado E( X _j ) existe de acuerdo con la integración de Lebesgue y es finito. No significa que la medida de probabilidad asociada sea absolutamente continua con respecto a la medida de Lebesgue ).

Los textos introductorios de probabilidad a menudo suponen además una varianza finita idéntica (para todos los ) y ninguna correlación entre variables aleatorias. En ese caso, la varianza del promedio de n variables aleatorias es${\displaystyle \operatorname {Var} (X_{i})=\sigma ^{2}}$${\displaystyle i}$

$${\displaystyle \operatorname {Var} ({\overline {X}}_{n})=\operatorname {Var} ({\tfrac {1}{n}}(X_{1}+\cdots +X_{n}))={\frac {1}{n^{2}}}\operatorname {Var} (X_{1}+\cdots +X_{n})={\frac {n\sigma ^{2}}{n^{2}}}={\frac {\sigma ^{2}}{n}}.}$$

que puede utilizarse para acortar y simplificar las pruebas. Esta suposición de varianza finita no es necesaria . Una varianza grande o infinita hará que la convergencia sea más lenta, pero el LLN se cumple de todos modos. ^[17]

La independencia mutua de las variables aleatorias puede reemplazarse por independencia por pares ^[18] o intercambiabilidad ^[19] en ambas versiones de la ley.

La diferencia entre la versión fuerte y la débil tiene que ver con el modo de convergencia que se afirma. Para la interpretación de estos modos, véase Convergencia de variables aleatorias .

La ley débil de los grandes números (también llamada ley de Khinchin ) establece que dada una colección de muestras independientes e idénticamente distribuidas (iid) de una variable aleatoria con media finita, la media de la muestra converge en probabilidad al valor esperado ^[20].

$${\displaystyle {\overline {X}}_{n}\ {\overset {P}{\rightarrow }}\ \mu \qquad {\textrm {when}}\ n\to \infty .}$$

( 2 )

Es decir, para cualquier número positivo ε ,

$${\displaystyle \lim _{n\to \infty }\Pr \!\left(\,|{\overline {X}}_{n}-\mu |<\varepsilon \,\right)=1.}$$

Interpretando este resultado, la ley débil establece que para cualquier margen especificado distinto de cero ( ε ), por pequeño que sea, con una muestra suficientemente grande habrá una probabilidad muy alta de que el promedio de las observaciones esté cerca del valor esperado; es decir, dentro del margen.

Como se mencionó anteriormente, la ley débil se aplica en el caso de variables aleatorias iid, pero también se aplica en algunos otros casos. Por ejemplo, la varianza puede ser diferente para cada variable aleatoria en la serie, manteniendo constante el valor esperado. Si las varianzas están acotadas, entonces se aplica la ley, como lo demostró Chebyshev en 1867. (Si los valores esperados cambian durante la serie, entonces podemos simplemente aplicar la ley a la desviación promedio de los respectivos valores esperados. La ley entonces establece que esto converge en probabilidad a cero.) De hecho, la prueba de Chebyshev funciona siempre que la varianza del promedio de los primeros n valores tienda a cero cuando n tiende a infinito. ^[15] Como ejemplo, supongamos que cada variable aleatoria en la serie sigue una distribución gaussiana (distribución normal) con media cero, pero con varianza igual a , que no está acotada. En cada etapa, el promedio se distribuirá normalmente (como el promedio de un conjunto de variables distribuidas normalmente). La varianza de la suma es igual a la suma de las varianzas, que es asintótica a . Por lo tanto, la varianza del promedio es asintótica a y tiende a cero.${\displaystyle 2n/\log(n+1)}$${\displaystyle n^{2}/\log n}$${\displaystyle 1/\log n}$

También hay ejemplos de la ley débil que se aplica incluso cuando el valor esperado no existe.

La ley fuerte de los grandes números (también llamada ley de Kolmogorov ) establece que el promedio de la muestra converge casi con seguridad al valor esperado ^[21]

$${\displaystyle {\overline {X}}_{n}\ {\overset {\text{a.s.}}{\longrightarrow }}\ \mu \qquad {\textrm {when}}\ n\to \infty .}$$

( 3 )

Eso es,

$${\displaystyle \Pr \!\left(\lim _{n\to \infty }{\overline {X}}_{n}=\mu \right)=1.}$$

Esto significa que la probabilidad de que, a medida que el número de ensayos n tiende a infinito, el promedio de las observaciones converja al valor esperado es igual a uno. La prueba moderna de la ley fuerte es más compleja que la de la ley débil y se basa en pasar a una subsecuencia apropiada. ^[17]

La ley fuerte de los grandes números puede considerarse en sí misma un caso especial del teorema ergódico puntual . Esta visión justifica la interpretación intuitiva del valor esperado (solo para la integración de Lebesgue) de una variable aleatoria cuando se muestrea repetidamente como el "promedio de largo plazo".

La ley 3 se denomina ley fuerte porque las variables aleatorias que convergen fuertemente (casi con seguridad) tienen la garantía de converger débilmente (en probabilidad). Sin embargo, se sabe que la ley débil se cumple en ciertas condiciones en las que la ley fuerte no se cumple y, en ese caso, la convergencia es solo débil (en probabilidad). Consulte las diferencias entre la ley débil y la ley fuerte.

La ley fuerte se aplica a variables aleatorias independientes distribuidas de forma idéntica que tienen un valor esperado (como la ley débil). Esto fue demostrado por Kolmogorov en 1930. También puede aplicarse en otros casos. Kolmogorov también demostró, en 1933, que si las variables son independientes e idénticamente distribuidas, entonces para que la media converja casi con seguridad en algo (esto puede considerarse otra afirmación de la ley fuerte), es necesario que tengan un valor esperado (y entonces, por supuesto, la media convergerá casi con seguridad en ese valor). ^[22]

Si los sumandos son independientes pero no están distribuidos idénticamente, entonces

$${\displaystyle {\overline {X}}_{n}-\operatorname {E} {\big [}{\overline {X}}_{n}{\big ]}\ {\overset {\text{a.s.}}{\longrightarrow }}\ 0,}$$

( 2 )

siempre que cada X _k tenga un segundo momento finito y

$${\displaystyle \sum _{k=1}^{\infty }{\frac {1}{k^{2}}}\operatorname {Var} [X_{k}]<\infty .}$$

Esta afirmación se conoce como la ley fuerte de Kolmogorov , véase, por ejemplo, Sen y Singer (1993, Teorema 2.3.10).

La ley débil establece que para un valor grande especificado de n , es probable que el promedio esté cerca de μ . ^[23] Por lo tanto, deja abierta la posibilidad de que esto ocurra un número infinito de veces, aunque a intervalos poco frecuentes. (No necesariamente para todos los n ).${\displaystyle {\overline {X}}_{n}}$${\displaystyle |{\overline {X}}_{n}-\mu |>\varepsilon }$${\displaystyle |{\overline {X}}_{n}-\mu |\neq 0}$

La ley fuerte muestra que esto casi seguramente no ocurrirá. No implica que con probabilidad 1, tengamos que para cualquier ε > 0 la desigualdad se cumple para todos los n suficientemente grandes , ya que la convergencia no es necesariamente uniforme en el conjunto donde se cumple. ^[24]${\displaystyle |{\overline {X}}_{n}-\mu |<\varepsilon }$

La ley fuerte no se cumple en los casos siguientes, pero sí la ley débil. ^{[25] [26]}

Hay extensiones de la ley de grandes números a colecciones de estimadores, donde la convergencia es uniforme sobre la colección; de ahí el nombre de ley uniforme de grandes números .

Supongamos que f ( x , θ ) es una función definida para θ ∈ Θ y continua en θ . Entonces, para cualquier θ fijo , la secuencia { f ( X ₁ , θ ), f ( X ₂ , θ ), ...} será una secuencia de variables aleatorias independientes e idénticamente distribuidas, de modo que la media muestral de esta secuencia converge en probabilidad a E[ f ( X , θ )]. Esta es la convergencia puntual (en θ ).

Un ejemplo particular de una ley uniforme de grandes números establece las condiciones bajo las cuales la convergencia ocurre uniformemente en θ . Si ^{[29] [30]}

1. Θ es compacto,
2. f ( x , θ ) es continua en cada θ ∈ Θ para casi todos los x , y es una función medible de x en cada θ .
3. existe una función dominante d ( x ) tal que E[ d ( X )] < ∞, y$${\displaystyle \left\|f(x,\theta )\right\|\leq d(x)\quad {\text{for all}}\ \theta \in \Theta .}$$

Entonces E[ f ( X , θ )] es continua en θ , y

$${\displaystyle \sup _{\theta \in \Theta }\left\|{\frac {1}{n}}\sum _{i=1}^{n}f(X_{i},\theta )-\operatorname {E} [f(X,\theta )]\right\|{\overset {\mathrm {P} }{\rightarrow }}\ 0.}$$

Este resultado es útil para derivar la consistencia de una gran clase de estimadores (ver Estimador de extremo ).

La ley de los grandes números de Borel , llamada así por Émile Borel , establece que si un experimento se repite un gran número de veces, independientemente bajo condiciones idénticas, entonces la proporción de veces que se espera que ocurra cualquier evento específico es aproximadamente igual a la probabilidad de ocurrencia del evento en cualquier ensayo particular; cuanto mayor sea el número de repeticiones, mejor tiende a ser la aproximación. Más precisamente, si E denota el evento en cuestión, p su probabilidad de ocurrencia y N _n ( E ) el número de veces que E ocurre en los primeros n ensayos, entonces con probabilidad uno, ^[31]$${\displaystyle {\frac {N_{n}(E)}{n}}\to p{\text{ as }}n\to \infty .}$$

Este teorema hace rigurosa la noción intuitiva de probabilidad como la frecuencia relativa esperada a largo plazo de ocurrencia de un evento. Es un caso especial de varias leyes más generales de los grandes números en la teoría de la probabilidad.

Desigualdad de Chebyshev . Sea X una variable aleatoria con un valor esperado finito μ y una varianza finita distinta de cero σ ² . Entonces, para cualquier número real k > 0 ,

$${\displaystyle \Pr(|X-\mu |\geq k\sigma )\leq {\frac {1}{k^{2}}}.}$$

Dado X ₁ , X ₂ , ... una secuencia infinita de variables aleatorias iid con valor esperado finito , nos interesa la convergencia del promedio de la muestra${\displaystyle E(X_{1})=E(X_{2})=\cdots =\mu <\infty }$

$${\displaystyle {\overline {X}}_{n}={\tfrac {1}{n}}(X_{1}+\cdots +X_{n}).}$$

La ley débil de los grandes números establece:

$${\displaystyle {\overline {X}}_{n}\ {\overset {P}{\rightarrow }}\ \mu \qquad {\textrm {when}}\ n\to \infty .}$$

( 2 )

Esta prueba utiliza el supuesto de varianza finita (para todos los ). La independencia de las variables aleatorias implica que no hay correlación entre ellas, y tenemos que${\displaystyle \operatorname {Var} (X_{i})=\sigma ^{2}}$${\displaystyle i}$

$${\displaystyle \operatorname {Var} ({\overline {X}}_{n})=\operatorname {Var} ({\tfrac {1}{n}}(X_{1}+\cdots +X_{n}))={\frac {1}{n^{2}}}\operatorname {Var} (X_{1}+\cdots +X_{n})={\frac {n\sigma ^{2}}{n^{2}}}={\frac {\sigma ^{2}}{n}}.}$$

La media común μ de la secuencia es la media del promedio de la muestra:

$${\displaystyle E({\overline {X}}_{n})=\mu .}$$

Usando la desigualdad de Chebyshev se obtienen los siguientes resultados:${\displaystyle {\overline {X}}_{n}}$

$${\displaystyle \operatorname {P} (\left|{\overline {X}}_{n}-\mu \right|\geq \varepsilon )\leq {\frac {\sigma ^{2}}{n\varepsilon ^{2}}}.}$$

Esto puede usarse para obtener lo siguiente:

$${\displaystyle \operatorname {P} (\left|{\overline {X}}_{n}-\mu \right|<\varepsilon )=1-\operatorname {P} (\left|{\overline {X}}_{n}-\mu \right|\geq \varepsilon )\geq 1-{\frac {\sigma ^{2}}{n\varepsilon ^{2}}}.}$$

A medida que n se acerca al infinito, la expresión se acerca a 1. Y por definición de convergencia en probabilidad , hemos obtenido

$${\displaystyle {\overline {X}}_{n}\ {\overset {P}{\rightarrow }}\ \mu \qquad {\textrm {when}}\ n\to \infty .}$$

( 2 )

Por el teorema de Taylor para funciones complejas , la función característica de cualquier variable aleatoria, X , con media finita μ, se puede escribir como

$${\displaystyle \varphi _{X}(t)=1+it\mu +o(t),\quad t\rightarrow 0.}$$

Todos los X ₁ , X ₂ , ... tienen la misma función característica, por lo que simplemente denotaremos esto φ _X .

Entre las propiedades básicas de las funciones características se encuentran:

$${\displaystyle \varphi _{{\frac {1}{n}}X}(t)=\varphi _{X}({\tfrac {t}{n}})\quad {\text{and}}\quad \varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)\quad }$$si X e Y son independientes.

Estas reglas se pueden utilizar para calcular la función característica de en términos de φ _X :${\displaystyle {\overline {X}}_{n}}$

$${\displaystyle \varphi _{{\overline {X}}_{n}}(t)=\left[\varphi _{X}\left({t \over n}\right)\right]^{n}=\left[1+i\mu {t \over n}+o\left({t \over n}\right)\right]^{n}\,\rightarrow \,e^{it\mu },\quad {\text{as}}\quad n\to \infty .}$$

El límite e ^itμ es la función característica de la variable aleatoria constante μ, y por lo tanto, por el teorema de continuidad de Lévy , converge en distribución a μ:${\displaystyle {\overline {X}}_{n}}$

$${\displaystyle {\overline {X}}_{n}\,{\overset {\mathcal {D}}{\rightarrow }}\,\mu \qquad {\text{for}}\qquad n\to \infty .}$$

μ es una constante, lo que implica que la convergencia en la distribución a μ y la convergencia en la probabilidad a μ son equivalentes (ver Convergencia de variables aleatorias ). Por lo tanto,

$${\displaystyle {\overline {X}}_{n}\ {\overset {P}{\rightarrow }}\ \mu \qquad {\textrm {when}}\ n\to \infty .}$$

( 2 )

Esto demuestra que la media de la muestra converge en probabilidad a la derivada de la función característica en el origen, siempre que esta última exista.

Damos una prueba relativamente simple de la ley fuerte bajo los supuestos de que son iid , , , y .${\displaystyle X_{i}}$${\displaystyle {\mathbb {E} }[X_{i}]=:\mu <\infty }$${\displaystyle \operatorname {Var} (X_{i})=\sigma ^{2}<\infty }$${\displaystyle {\mathbb {E} }[X_{i}^{4}]=:\tau <\infty }$

Observemos primero que sin pérdida de generalidad podemos suponer que al centrar. En este caso, la ley fuerte dice que${\displaystyle \mu =0}$

$${\displaystyle \Pr \!\left(\lim _{n\to \infty }{\overline {X}}_{n}=0\right)=1,}$$o Es equivalente a demostrar que Nótese que y por lo tanto para demostrar la ley fuerte necesitamos demostrar que para cada , tenemos Definir los eventos , y si podemos demostrar que entonces el Lema de Borel-Cantelli implica el resultado. Así que estimemos .$${\displaystyle \Pr \left(\omega :\lim _{n\to \infty }{\frac {S_{n}(\omega )}{n}}=0\right)=1.}$$$${\displaystyle \Pr \left(\omega :\lim _{n\to \infty }{\frac {S_{n}(\omega )}{n}}\neq 0\right)=0,}$$$${\displaystyle \lim _{n\to \infty }{\frac {S_{n}(\omega )}{n}}\neq 0\iff \exists \epsilon >0,\left|{\frac {S_{n}(\omega )}{n}}\right|\geq \epsilon \ {\mbox{infinitely often}},}$$${\displaystyle \epsilon >0}$$${\displaystyle \Pr \left(\omega :|S_{n}(\omega )|\geq n\epsilon {\mbox{ infinitely often}}\right)=0.}$$${\displaystyle A_{n}=\{\omega :|S_{n}|\geq n\epsilon \}}$$${\displaystyle \sum _{n=1}^{\infty }\Pr(A_{n})<\infty ,}$$${\displaystyle \Pr(A_{n})}$

Calculamos Primero afirmamos que cada término de la forma donde todos los subíndices son distintos, debe tener esperanza cero. Esto se debe a que por independencia, y el último término es cero --- y de manera similar para los otros términos. Por lo tanto, los únicos términos en la suma con esperanza distinta de cero son y . Dado que están distribuidos de manera idéntica, todos estos son iguales y, además , . $${\displaystyle {\mathbb {E} }[S_{n}^{4}]={\mathbb {E} }\left[\left(\sum _{i=1}^{n}X_{i}\right)^{4}\right]={\mathbb {E} }\left[\sum _{1\leq i,j,k,l\leq n}X_{i}X_{j}X_{k}X_{l}\right].}$$${\displaystyle X_{i}^{3}X_{j},X_{i}^{2}X_{j}X_{k},X_{i}X_{j}X_{k}X_{l}}$${\displaystyle {\mathbb {E} }[X_{i}^{3}X_{j}]={\mathbb {E} }[X_{i}^{3}]{\mathbb {E} }[X_{j}]}$${\displaystyle {\mathbb {E} }[X_{i}^{4}]}$${\displaystyle {\mathbb {E} }[X_{i}^{2}X_{j}^{2}]}$${\displaystyle X_{i}}$${\displaystyle {\mathbb {E} }[X_{i}^{2}X_{j}^{2}]=({\mathbb {E} }[X_{i}^{2}])^{2}}$

Hay términos de la forma y términos de la forma , y por lo tanto Nótese que el lado derecho es un polinomio cuadrático en , y como tal existe un tal que para suficientemente grande. Según Markov, para suficientemente grande, y por lo tanto esta serie es sumable. Dado que esto es válido para cualquier , hemos establecido el LIN fuerte.${\displaystyle n}$${\displaystyle {\mathbb {E} }[X_{i}^{4}]}$${\displaystyle 3n(n-1)}$${\displaystyle ({\mathbb {E} }[X_{i}^{2}])^{2}}$$${\displaystyle {\mathbb {E} }[S_{n}^{4}]=n\tau +3n(n-1)\sigma ^{4}.}$$${\displaystyle n}$${\displaystyle C>0}$${\displaystyle {\mathbb {E} }[S_{n}^{4}]\leq Cn^{2}}$${\displaystyle n}$$${\displaystyle \Pr(|S_{n}|\geq n\epsilon )\leq {\frac {1}{(n\epsilon )^{4}}}{\mathbb {E} }[S_{n}^{4}]\leq {\frac {C}{\epsilon ^{4}n^{2}}},}$$${\displaystyle n}$${\displaystyle \epsilon >0}$

Etemadi dio otra prueba. ^[32]

Para una prueba sin el supuesto adicional de un cuarto momento finito, véase la Sección 22 de Billingsley. ^[33]

La ley de los grandes números proporciona una expectativa de una distribución desconocida a partir de una realización de la secuencia, pero también cualquier característica de la distribución de probabilidad . ^[1] Al aplicar la ley de los grandes números de Borel , se podría obtener fácilmente la función de masa de probabilidad. Para cada evento en la función de masa de probabilidad objetiva, se podría aproximar la probabilidad de ocurrencia del evento con la proporción de veces que ocurre cualquier evento especificado. Cuanto mayor sea el número de repeticiones, mejor será la aproximación. En cuanto al caso continuo: , para h positiva pequeña. Por lo tanto, para n grande:${\displaystyle C=(a-h,a+h]}$

$${\displaystyle {\frac {N_{n}(C)}{n}}\thickapprox p=P(X\in C)=\int _{a-h}^{a+h}f(x)\,dx\thickapprox 2hf(a)}$$

Con este método, se puede cubrir todo el eje x con una cuadrícula (con un tamaño de cuadrícula de 2h) y obtener un gráfico de barras llamado histograma .

Una aplicación del LLN es el importante método de aproximación conocido como el método de Monte Carlo ^[3] , que utiliza un muestreo aleatorio de números para aproximar resultados numéricos. El algoritmo para calcular una integral de f(x) en un intervalo [a,b] es el siguiente: ^[3]

1. Simular variables aleatorias uniformes X ₁ , X ₂ , ..., X _n lo cual se puede hacer usando un software, y usar una tabla de números aleatorios que dé U ₁ , U ₂ , ..., U _n variables aleatorias independientes e idénticamente distribuidas (iid) en [0,1]. Entonces sea X _i = a+(b - a)U _i para i= 1, 2, ..., n. Entonces X ₁ , X ₂ , ..., X _n son variables aleatorias uniformes independientes e idénticamente distribuidas en [a, b].
2. Evaluar f(X ₁ ), f(X ₂ ), ..., f(X _n )
3. Tome el promedio de f(X ₁ ), f(X ₂ ), ..., f(X _n ) calculando y luego por la Ley Fuerte de Grandes Números, esto converge a = =${\displaystyle (b-a){\tfrac {f(X_{1})+f(X_{2})+...+f(X_{n})}{n}}}$${\displaystyle (b-a)E(f(X_{1}))}$${\displaystyle (b-a)\int _{a}^{b}f(x){\tfrac {1}{b-a}}{dx}}$${\displaystyle \int _{a}^{b}f(x){dx}}$

Podemos encontrar la integral de en [-1,2]. El uso de métodos tradicionales para calcular esta integral es muy difícil, por lo que se puede utilizar aquí el método de Monte Carlo. ^[3] Utilizando el algoritmo anterior, obtenemos${\displaystyle f(x)=cos^{2}(x){\sqrt {x^{3}+1}}}$

${\displaystyle \int _{-1}^{2}f(x){dx}}$ = 0,905 cuando n=25

y

${\displaystyle \int _{-1}^{2}f(x){dx}}$ = 1,028 cuando n=250

Observamos que a medida que n aumenta, el valor numérico también aumenta. Cuando obtenemos los resultados reales para la integral obtenemos

${\displaystyle \int _{-1}^{2}f(x){dx}}$= 1.000194

Cuando se utilizó el LLN, la aproximación de la integral fue más cercana a su valor real y, por lo tanto, más precisa. ^[3]

Otro ejemplo es la integración de f(x) = en [0,1]. ^[34] Utilizando el método de Monte Carlo y el LLN, podemos ver que a medida que aumenta el número de muestras, el valor numérico se acerca a 0,4180233. ^[34]${\displaystyle {\frac {e^{x}-1}{e-1}}}$

• Propiedad de equipartición asintótica
• Teorema del límite central
• Teorema del mono infinito
• Tratado de probabilidad de Keynes
• Ley de promedios
• Ley del logaritmo iterado
• Ley de los números verdaderamente grandes
• Efecto Lindy
• Regresión hacia la media
• Sorteo
• Ley fuerte de los números pequeños

• "Ley de los grandes números", Enciclopedia de Matemáticas , EMS Press , 2001 [1994]
• Weisstein, Eric W. "Ley débil de los grandes números". MathWorld .
• Weisstein, Eric W. "Ley fuerte de los grandes números". MathWorld .
• Animaciones para la Ley de Grandes Números de Yihui Xie usando el paquete R animation
• El director ejecutivo de Apple, Tim Cook, dijo algo que haría estremecer a los estadísticos. "No creemos en leyes como las leyes de los grandes números. Creo que es una especie de dogma antiguo que inventó alguien [...]", dijo Tim Cook y añadió: "Sin embargo, la ley de los grandes números no tiene nada que ver con las grandes empresas, los grandes ingresos o las grandes tasas de crecimiento. La ley de los grandes números es un concepto fundamental en la teoría de la probabilidad y la estadística, que vincula las probabilidades teóricas que podemos calcular con los resultados reales de los experimentos que realizamos empíricamente". Business Insider lo explicó