Prawo wielkich liczb

Z Wikipedii

Definicja intuicyjna:

zwiększając liczbę doświadczeń opartych na zdarzeniach losowych, możemy oczekiwać rozkładu wyników coraz lepiej odpowiadającego rozkładowi prawdopodobieństw zdarzeń (na przykład, przeprowadzając wielką liczbę rzutów symetryczną monetą, możemy oczekiwać że stosunek liczby "wyrzuconych" orłów do liczby wszystkich rzutów będzie bliski 0,5 (wartości prawdop.); tym większe są na to szanse im większa jest liczba rzutów)

Słabe prawo wielkich liczb to twierdzenie matematyczne mówiące, że jeśli $X i$ są niezależnymi zmiennymi losowymi o identycznym rozkładzie z wartością oczekiwaną $μ$ i skończoną wariancją, to dla każdego $\varepsilon$

$\lim_{n\rightarrow\infty}P\left(\left|\left(\sum_{i=1}^n~{X_i \over n}\right)-\mu)\right| \le \varepsilon \right) = 1$ .

Słownie: niezależnie od wyboru szerokości przedział wokół wartości oczekiwanej, prawdopodobieństwo dla dużych $n$ będzie dowolnie bliskie $1$ .

Innymi słowy, ciąg zmiennych losowych $S_n=\sum_{i=1}^n~{X_i \over n}$ zbiega według prawdopodobieństwa do wartości oczekiwanej $μ$ zmiennej losowej $X i$ . Dowód słabego prawa wielkich liczb opiera się na nierówności Czebyszewa.

[edytuj] Dowód

Wartość oczekiwana i wariancja podlegają następującym prawom:

E(X + Y) = E(X) + E(Y)

Var(X + Y) = Var(X) + Var(Y)

, jeśli

X

Y

są zmiennymi losowymi niezależnymi,

E(n X) = n E(X)

Var(n X) = n 2 Var(X)

a więc:

$\mathrm E\left(\sum_{i=1}^n~{X_i \over n}\right) = {1 \over n} \mathrm E \left(\sum_{i=1}^n~X_i \right) = {1 \over n} n \mathrm E(X) = \mathrm E(X) = \mu$

$\mathrm{Var}\left(\sum_{i=1}^n~{X_i over n}\right) = {1 \over n^2} \mathrm{Var} \left(\sum_{i=1}^n~X_i\right) = {1 \over n^2} n \mathrm{Var}(X) = {1 \over n} \mathrm{Var}(X)$

Co oznacza, że dla każdego $\mathrm{Var}(X) < \infty$ :

$\lim_{n\rightarrow\infty} \mathrm{Var}\left(\sum_{i=1}^n~{X_i \over n}\right) = 0$

A skoro wariancja dąży do zera, szansa że dana wartość będzie poza bardzo dowolnie małym przedziałem (jak udowodniliśmy wokół $μ$ ) również dąży do zera.

Mocne prawo wielkich liczb to twierdzenie matematyczne, które mówi że $P\left(\lim_{n\rightarrow\infty}\sum_{i=1}^n~{X_i \over n} = \mu\right) = 1$ . Innymi słowy, ciąg zmiennych losowych $S_n=\sum_{i=1}^n~{X_i \over n}$ zbiega z prawie wszędzie do wartości oczekiwanej $μ$ zmiennej losowej $X i$ .