L'idée de l'estimation par intervalle de confiance est de définir, autour de la moyenne empirique, un intervalle aléatoire (dépendant des expériences) qui contienne avec une forte probabilité. C'est l'amplitude de cet intervalle qui mesure la précision de l'estimation.
Alors :
On dit que les intervalles aléatoires et sont des intervalles de confiance pour , de niveau de confiance asymptotique .
Interprétation La valeur étant inconnue, il n'y a pas de raison a priori pour que l'écart-type soit connu. S'il est inconnu, on l'estime par l'écart-type empirique . C'est la raison pour laquelle nous donnons deux intervalles de confiance. La valeur de est lue dans une table, ou retournée par un module de calcul numérique. Les valeurs les plus courantes sont les suivantes :
Les intervalles et sont aléatoires. A l'issue de la série de expériences, et auront pris des valeurs particulières et . L'encadrement sera alors vrai ou faux. Pour , si on répète fois la série de expériences pour obtenir intervalles, on peut s'attendre à ce que cinq d'entre eux ne contiennent pas .
Il faut comprendre un intervalle de confiance comme une précision donnée sur la valeur estimée de :
Estimation d'une probabilité.
Supposons que la quantité à estimer soit la probabilité d'un évènement. On réalise une suite d'expériences indépendantes, en notant à chaque fois si l'évènement est réalisé (1) ou non (0). La variable aléatoire correspondant à la -ième expérience est notée . Les suivent la loi de Bernoulli de paramètre .
Reprenons l'expérience de l'aiguille de Buffon, consistant à lancer au hasard une aiguille sur un parquet. Si la largeur des lames est égale à la longueur de l'aiguille, nous avons vu que la probabilité (théorique) pour que l'aiguille tombe à cheval sur 2 lames de parquet est . Supposons que l'on répète fois l'expérience, physique ou par simulation. A l'issue des répétitions, on obtient une valeur de la fréquence expérimentale et donc un intervalle de confiance . L'intervalle est aussi un intervalle de confiance pour la valeur . Voici par exemple des résultats obtenus sur expériences.