Liée au calcul des probabilités, la statistique a pour objet l'étude des populations constituées par des éléments nombreux et de même nature :
- habitants d'un même pays (système sociologique) ;
- composants fabriqués par une même usine (système productif) ;
- électrons émis par un même corps radioactif (système physique) ;
- molécules d'un gaz (système thermodynamique) ;
- etc.
Les éléments ne sont pas identiques bien qu'étant de même nature, mais on peut discerner des propriétés qui permettent de les classer dans une même population ;
- étude de la taille des habitants ;
- résistances électriques ayant une valeur nominale donnée ;
- répartitions de molécules gazeuses ;
- etc.
Est étudiée la façon dont est distribué un caractère attaché aux individus de la population.
Une description est faite par un histogramme, remplacé ensuite par une courbe théorique représentant une loi donnée de probabilité. En thermodynamique microscopique par exemple, on entendra parler des statistiques de Boltzmann, Bose-Einstein, etc.
Cette loi de probabilité devient l'image définitive de la population étudiée.
Un problème de statistique se traite en général en quatre étapes :
- Description de l'échantillon matérialisée par un \emph{histogramme}.
- Choix a priori (mais éclairé) d'une loi de probabilité qui pourra conduire à un \emph{ajustement} de l'histogramme.
- Estimation des paramètres contenus dans la loi choisie, par exemple la loi normale qui dépend de deux paramètres (\(m,~\sigma\)), c'est-à-dire la moyenne et l'écart-type de la loi de Poisson ne dépend que d'un seul paramètre désigné de manière habituelle par \(a\), c'est-à-dire \((a = m =\sigma^2)\).
- Test de la loi choisie pour vérifier que cette loi est en bon accord avec la proposition étudiée (test du \(\chi^2\) par exemple).
Si le test est défavorable, cela signifie qu'il faut alors changer la loi qui avait été adoptée.