Démonstration : On a :
L'idée intuitive est que si on mesure une même quantité aléatoire au cours d'une suite d'expériences indépendantes, alors la moyenne arithmétique des valeurs observées va se stabiliser sur l'espérance. Comme cas particulier on retrouve la loi des grands nombres pour la probabilité d'un évènement. Pour une suite d'expériences indépendantes notons l'indicatrice de l'évènement à la -ème expérience. Les suivent la loi de Bernoulli de paramètre et est la fréquence expérimentale de .
L'ordre de grandeur de l'erreur commise en approchant par la moyenne est : dans la dernière inégalité de la démonstration, prenons . On a :