Ley de los grandes números
Lanza una moneda solo unas veces y la parte de caras salta, pero lánzala muchísimas veces y se asienta cerca de 0.5. Que la media muestral se reúna hacia el valor esperado verdadero E[X] al juntar más muestras es la ley de los grandes números. Dale la vuelta a la ley y puedes estimar un valor difícil de calcular directamente, con muestras al azar, y eso es el método de Monte Carlo. El error se encoge a la velocidad 1/√n, y el límite es el mismo aunque la semilla difiera. Cuanto más extraes, más vuelve la media a su sitio.
Cuenta las caras como 1 y las cruces como 0 y el valor esperado es E[X] = 0.5, y para un dado el promedio de las caras es E[X] = 3.5. Sube el número de lanzamientos y se dibuja la media acumulada hasta ese punto. Los primeros lanzamientos se mecen mucho, pero al crecer la cuenta la curva se pega al valor esperado marcado por la línea de puntos. Se usa la misma semilla, así que abrirlo en cualquier momento da el mismo camino. El vaivén se apaga.
Lanza dardos al azar al cuadrado [0,1]×[0,1]. La parte de dardos que cae dentro de un cuarto de círculo de radio 1 centrado en el origen converge a π/4. Multiplica la parte de dentro por 4 y obtienes una estimación de esa constante. Sube el número de dardos y los puntos se hacen densos, y la estimación se estrecha hacia 3.14159. Medir un área con muestras al azar es la semilla de la integración de Monte Carlo. Los puntos miden el área.
Extraer más sí mejora las cosas, pero con qué rapidez. Dibuja el error de estimación contra la cuenta y el error se encoge a unos 1/√n de velocidad. Partir el error por la mitad quiere decir que hay que multiplicar la muestra por cuatro. Cambia las líneas guía entre 1/√n y 1/n y el error real sigue el lento 1/√n, no el rápido 1/n. El hecho de que la exactitud es cara se muestra aquí. El lado lento es la velocidad real.
Un paso más, y no es solo la media lo que converge. Todo el histograma de la muestra se acerca a la curva de densidad de probabilidad de la población. Cuando la cuenta es pequeña las barras son irregulares, y al subir la cuenta el contorno de las barras se tiende sobre la curva de densidad lisa. Puedes comprobarlo cambiando entre una forma de campana y una forma plana. Este es el fundamento para leer la forma de una distribución en un histograma. Las barras llegan a parecerse a la curva.
Es al azar, así que cómo sigue apareciendo el mismo dibujo. Nuestros números al azar son una sucesión determinista fijada por una semilla, así que la misma semilla reconstruye el mismo camino. Cambia la semilla y el vaivén inicial difiere cada vez, pero todo camino se reúne al final en el mismo valor esperado 0.5. El azar hace diferir los caminos, y la ley de los grandes números hace igual el destino. Así un experimento se puede reproducir y aun así dar una conclusión universal. Los caminos difieren y el final es el mismo.