大数の法則

表が出ることと裏が出ることが同様に確からしいコインを投げるとき、表が出る確率、裏が出る確率はともに 1/2 です。従って、コインを 2 回投げたとき、表が 2 回出る確率は 1/4。そう簡単に表と裏が 1 回ずつ出てくれるとは限りません。
しかし、1000 回中 800 回も表が出るようなコインなら、さすがに歪んでいると考えるのが普通というものです。
これを数学的に記述したものが「大数の法則」と言われるものです。
より厳密に言いますと、ε を任意の正の数とするとき、ある自然数 が存在して、 ならば、n 回中、表が出る回数を h(n) 回とするとき

が成り立ちます。要するに回数を多く投げれば、表が出る回数がその半分より大幅にずれる確率は非常に小さくなる、というわけです。