Ley de los grandes números, Ejemplos, Historia, Formas, Prueba



En teoría de la probabilidad, la ley de los grandes números es un teorema que describe el resultado de realizar el mismo experimento un gran número de veces. De acuerdo con la ley, el promedio de los resultados obtenidos a partir de un gran número de ensayos debe estar cerca del valor esperado, y tenderá a acercarse más a medida que se realizan más ensayos.

La LLN es importante porque "garantiza" resultados estables a largo plazo para los promedios de sucesos aleatorios. Por ejemplo, mientras que un casino puede perder dinero en un solo giro de la rueda de la ruleta, sus ingresos tenderán hacia un porcentaje predecible en un gran número de vueltas. Cualquier racha de victorias de un jugador con el tiempo se puede superar mediante los parámetros del juego. Es importante recordar que la LLN sólo se aplica cuando se considera un gran número de observaciones. No hay principio de que un pequeño número de observaciones coincidirá con el valor esperado o que una raya de un valor será inmediatamente "equilibrada" por los otros. Ver la falacia del jugador.

Ejemplos

Por ejemplo, un solo rollo de un dado de seis lados produce uno de los números 1, 2, 3, 4, 5, o 6, cada uno con la misma probabilidad. Por lo tanto, el valor esperado de una sola tirada es

De acuerdo con la ley de los grandes números, si se enrolla un gran número de dados de seis caras, es probable que sea cerca de 3,5 de la media de sus valores, con la precisión aumenta a medida que se enrollan más dados.

Se desprende de la ley de los grandes números de que la probabilidad empírica de éxito en una serie de ensayos de Bernoulli convergerá a la probabilidad teórica. Para una variable aleatoria de Bernoulli, el valor esperado es la probabilidad teórica de éxito, y el promedio de n tales variables es precisamente la frecuencia relativa.

Por ejemplo, una moneda lanzar un ensayo de Bernoulli. Cuando una moneda se voltea una vez, la probabilidad teórica de que el resultado sea cara es igual a 1/2 - Por lo tanto, según la ley de los grandes números, la proporción de jefes en varios "grandes" de la moneda voltea "debe ser "más o menos 1/2 - En particular, la proporción de cabezas después de n voltea casi seguramente converger a 1/2 cuando n se aproxima al infinito.

Aunque la proporción de cabezas se aproxima a 1/2, es casi seguro que la diferencia absoluta en el número de cabezas y las colas se convertirá grande como el número de lanzamientos se hace grande. Es decir, la probabilidad de que la diferencia absoluta es un número pequeño, se aproxima a cero a medida que el número de lanzamientos se hace grande. Además, es casi seguro que la relación de la diferencia absoluta con el número de lanzamientos se acercará a cero. Intuitivamente, la diferencia absoluta espera crece, pero a un ritmo más lento que el número de voltea, como el número de lanzamientos crece.

Historia

El matemático italiano Gerolamo Cardano afirmar sin prueba de que la precisión de las estadísticas empíricas tienden a mejorar con el número de ensayos. Esto fue formalizada como ley de los grandes números. Una forma especial de la LLN fue probado por primera vez por Jacob Bernoulli. Le tomó más de 20 años para desarrollar una prueba matemática suficientemente rigurosos, que se publicó en su Ars Conjectandi en 1713 - Llamó a este su "Teorema de Oro", pero se hizo conocido generalmente como "Teorema de Bernoulli". Esto no debe confundirse con el principio de la física con el mismo nombre, el nombre de Jacob Bernoulli sobrino Daniel Bernoulli. En 1837, S. D. Poisson describe con más detalle bajo el nombre de "la loi des grands NOMBRES". A partir de entonces, se conoce con dos nombres, pero se utiliza con mayor frecuencia la "Ley de los grandes números".

Después de Bernoulli y Poisson publicaron sus esfuerzos, otros matemáticos también contribuyeron al refinamiento de la ley, incluyendo Chebyshev, Markov, Borel, Cantelli y Kolmogorov y Khinchin, que finalmente proporcionó una prueba completa de la LLN para variables aleatorias arbitrarias. Estos estudios han dado lugar a dos formas prominentes de la LLN. Uno se llama la ley "débil" y la otra la ley "fuerte". Estas formas no describen diferentes leyes, sino que refieren a diferentes formas de describir el modo de la convergencia de la muestra acumulada significa que el valor esperado y la forma fuerte implica los débiles.

Formas

Se describen dos versiones diferentes de la Ley de los Grandes Números continuación, se llaman la ley fuerte de los grandes números, y la ley débil de los grandes números. Ambas versiones de la ley estatal que - con certeza virtual - la media de la muestra

converge al valor esperado

donde X1, X2, ... es una secuencia infinita de i.i.d. variables aleatorias integrables con valor esperado E = E = ... =. Integrabilidad significa que E <8 para j = 1,2, ....

Un supuesto de varianza finita Var = Var = ... = S2 <8 no es necesario. Varianza grande o infinito hará que la convergencia más lenta, pero el LLN sostiene de todos modos. Esta suposición se utiliza a menudo porque hace que las pruebas más fácil y más corto.

La diferencia entre el fuerte y la versión débil tiene que ver con el modo de convergencia está afirmado. Para la interpretación de estos modos, consulte la convergencia de variables aleatorias.

La débil ley

La ley débil de los grandes números que la muestra converge promedio en probabilidad hacia el valor esperado

Es decir que para cualquier número positivo e,

La interpretación de este resultado, la ley débil indica esencialmente que para cualquier margen nulo se especifica, por pequeña que sea, con una muestra suficientemente grande, habrá una alta probabilidad de que la media de las observaciones estará cerca del valor esperado, es decir, dentro del margen.

Convergencia en probabilidad también se llama convergencia débil de variables aleatorias. Esta versión se denomina la ley débil debido a variables aleatorias pueden converger débilmente que el anterior sin converger fuertemente como a continuación.

Ley Strong

La ley fuerte de los grandes números que el promedio de la muestra converge casi seguro que el valor esperado

Es decir,

La prueba es más compleja que la de la ley débil. Esta ley justifica la interpretación intuitiva del valor esperado de una variable aleatoria como el "promedio a largo plazo cuando se toman muestras en varias ocasiones".

Casi seguro de convergencia también se llama una fuerte convergencia de variables aleatorias. Esta versión se llama la ley fuerte porque las variables aleatorias que convergen fuertemente están garantizados para converger con voz débil. La ley fuerte implica la ley débil.

La ley fuerte de los grandes números de sí mismo puede ser visto como un caso especial del teorema ergódico puntual.

Por otra parte, si los sumandos son independientes pero no idénticamente distribuidas, a continuación,

a condición de que cada Xk tiene un segundo momento finito y

 

Esta declaración se conoce como ley fuerte de Kolmogorov, ver, por ejemplo, Sen y Singer.

Las diferencias entre la ley débil y la ley fuerte

La ley fuerte muestra que esto es casi seguro que no ocurrirá. En particular, se supone que con probabilidad 1, se tiene que para todo e> 0, la desigualdad

Ley Uniforme de los grandes números

Supongamos que f es una función definida para? ? T, y continua en?. Entonces para cualquier fijo?, La secuencia {f, f,} habrá una secuencia de variables aleatorias independientes e idénticamente distribuidos, de manera que la media de la muestra de esta secuencia converge en probabilidad a E. Esta es la convergencia puntual.

La ley uniforme de los grandes números se enuncien las condiciones en las que la convergencia ocurre de manera uniforme en?. Si

  • T es compacto,
  • f es continua en cada uno? ? T para casi todos xs, y la función medible de x en cada uno?.
  • existe una función dominante d tal que E <8, y
  • Luego E es continua?, Y

    Ley de los grandes números de Borel

    La ley de Borel de un gran número, el nombre de millas Borel, establece que si un experimento se repite un gran número de veces, de forma independiente, en condiciones idénticas, a continuación, la proporción de veces que se produce cualquier evento especificado es igual a aproximadamente la probabilidad de ocurrencia del evento en cualquier particular, juicio; cuanto mayor sea el número de repeticiones, mejor será la aproximación tiende a ser. Más precisamente, si E denota el evento en cuestión, p su probabilidad de ocurrencia, y Nn el número de veces que E se produce en los primeros n ensayos, a continuación, con probabilidad uno,

    Lema de Chebyshev. Sea X una variable aleatoria con valor esperado finito y finito varianza no cero s2. Entonces, para cualquier número real k> 0,

    Este teorema hace rigurosa la noción intuitiva de la probabilidad como la frecuencia relativa a largo plazo de la ocurrencia de un evento. Se trata de un caso especial de cualquiera de varias leyes más generales de grandes números en teoría de la probabilidad.

    Prueba

    Dada X1, X2, ... una secuencia infinita de i.i.d. variables aleatorias con valor esperado finito E = E = ... = <8, estamos interesados en la convergencia de la media de la muestra

    La ley débil de los grandes números:

    Teorema:

    Prueba usando la desigualdad de Chebyshev

    Esta prueba utiliza el supuesto de varianza finita. La independencia de las variables aleatorias implica ninguna correlación entre ellos, y tenemos que

    La media común de la secuencia es la media de la media de la muestra:

    Usando la desigualdad de Chebyshev en los resultados en

    Esto puede ser usado para obtener el siguiente:

     

    Como n tiende a infinito, la expresión se aproxima a 1 - y por definición de convergencia en probabilidad, hemos obtenido

    Prueba usando convergencia de funciones características

    Por el teorema de Taylor para funciones complejas, la función característica de una variable aleatoria, X, con media finita, puede escribirse como

    Todos X1, X2, ... tienen la misma función característica, por lo que nos limitaremos a indicar este fX.

    Entre las propiedades básicas de las funciones características hay

     si X y Y son independientes.

    Estas reglas se pueden utilizar para calcular la función característica de en términos de fX:

    El límite de EIT es la función característica de la variable aleatoria constante, y por lo tanto, por el teorema de continuidad Lvy, converge en distribución a:

     es una constante, lo que implica que la convergencia en la distribución a y la convergencia en probabilidad a son equivalentes Por lo tanto,

    Esto muestra que la media de la muestra converge en probabilidad a la derivada de la función característica en el origen, siempre y cuando éste existe.