Théorie des probabilités - Principes de la science des données

3.4 Théorie des probabilités

Objectifs d'apprentissage

À la fin de cette section, vous devriez être en mesure de :

3.4.1 Décrire les concepts fondamentaux de probabilité et les appliquer à des cas réels en science des données.
3.4.2 Appliquer la probabilité conditionnelle et le théorème de Bayes.

La probabilité (probability) est une mesure numérique évaluant la vraisemblance de survenue d'un événement. Les applications probabilistes sont omniprésentes en science des données, car de nombreuses décisions dans les affaires, les sciences et l'ingénierie reposent sur des considérations probabilistes. Nous employons tous quotidiennement des calculs de probabilités lorsque nous décidons, par exemple, de prendre un parapluie pour aller au travail, de choisir l'itinéraire optimal pour le trajet matinal ou de sélectionner une filière universitaire.

Concepts fondamentaux de probabilité

Nous faisons tous appel aux probabilités d'une manière ou d'une autre au quotidien. Avant de sortir de chez vous, vous aimeriez peut-être connaître la probabilité qu'il pleuve. La probabilité d'obtenir pile lors d'un lancer de pièce est d'un demi, soit 0,5.

Un spécialiste des données cherche à exprimer une probabilité sous la forme d'un nombre compris entre 0 et 1 (inclus), où 0 indique l'impossibilité (l'événement ne se produira pas) et 1 la certitude (l'événement se produira). La probabilité d'un événement se situant entre 0 et 1 reflète le degré d'incertitude associé à cet événement.

Voici quelques termes fondamentaux que nous utiliserons dans l'analyse probabiliste :

Une issue (outcome) est le résultat d'un essai unique dans une expérience aléatoire.
L'univers (sample space) est l'ensemble de toutes les issues possibles d'une expérience aléatoire.
Un événement (event) est un sous-ensemble de l'univers. Par exemple, un événement peut consister à obtenir un nombre pair lors du lancer d'un dé à six faces. Cet événement correspond à trois issues, à savoir obtenir un 2, un 4 ou un 6 sur le dé.

Pour calculer des probabilités, plusieurs approches sont possibles, notamment la probabilité par fréquence relative, qui repose sur des données réelles, et la probabilité théorique, qui repose sur des conditions théoriques.

Probabilité par fréquence relative

La probabilité par fréquence relative (relative frequency probability) est une méthode permettant de déterminer la vraisemblance de réalisation d'un événement en fonction de la fréquence observée de son occurrence dans un échantillon ou une population donnée. Un spécialiste des données met en œuvre ou observe une procédure et détermine le nombre de fois où un certain événement $A$ survient. La probabilité de l'événement $A$ , notée $P (A)$ , est ensuite calculée à partir des données recueillies lors de l'expérience, comme suit :

P (A) = \frac{nombre de fois où l'événement A s'est produit}{nombre de répétitions de la procédure}

Exemple 3.14

Problème

Un institut de sondage demande à un échantillon de 400 personnes si elles sont favorables à une augmentation du financement des écoles locales ; 312 des personnes interrogées indiquent qu'elles y sont favorables. Calculez la probabilité qu'une personne choisie au hasard soit favorable à une augmentation du financement des écoles locales.

Solution

D'après les données recueillies lors de ce sondage, 400 personnes au total ont été interrogées, et 312 d'entre elles étaient favorables à une hausse du financement scolaire. La probabilité qu'une personne choisie au hasard soit favorable à cette mesure peut alors être calculée comme suit (remarquez que l'événement $A$ dans cet exemple correspond à l'événement « la personne est favorable à l'augmentation du financement ») :

\begin{array}{rcl} P (A) & = & Probabilité d'être favorable \\ = & \frac{nombre de fois où l'événement A s'est produit}{nombre de répétitions de la procédure} = \frac{312}{400} = 0.78 = 78 % \end{array}

Exemple 3.15

Problème

Un patient apprend qu'il doit subir une opération du genou et demande au médecin une estimation de la probabilité de réussite de l'intervention chirurgicale. Le médecin examine les données des deux dernières années et constate que 200 opérations de ce type ont été pratiquées, dont 188 avec succès. En s'appuyant sur ces données passées, le médecin calcule la probabilité de succès de la chirurgie du genou (remarquez que l'événement $A$ correspond dans cet exemple au fait qu'un patient bénéficie d'une issue chirurgicale favorable).

Solution

D'après les données recueillies au cours des deux dernières années, 200 interventions ont été réalisées, avec 188 succès. La probabilité peut alors être calculée comme suit :

P (A) = Probabilité de succès = \frac{nombre de fois où l'événement A s'est produit}{nombre de répétitions de la procédure} = \frac{188}{200} = 0.94

Le médecin informe le patient qu'il y a 94 % de chances de réussite pour l'opération du genou prévue.

Probabilité théorique

La probabilité théorique (theoretical probability) est la méthode employée lorsque les issues d'une expérience aléatoire (probability experiment) sont équiprobables — c'est-à-dire dans des conditions théoriques idéales.

La formule employée pour la probabilité théorique est semblable à celle utilisée pour la probabilité empirique (empirical probability). La probabilité théorique prend en considération toutes les issues possibles d'une expérience connues d'avance, de sorte qu'aucune donnée passée n'est requise pour son calcul.

Probabilité théorique = \frac{nombre d'issues favorables à l'événement d'intérêt}{nombre total d'issues dans l'univers}

Par exemple, la probabilité théorique d'obtenir un nombre pair lors du lancer d'un dé à six faces est de $\frac{3}{6}$ (soit $\frac{1}{2}$ , ou 0,5). Il existe 3 issues correspondant à un nombre pair, et 6 issues possibles au total dans l'univers. Remarquez que ce calcul s'effectue sans réaliser la moindre expérience, puisque les issues sont équiprobables.

Exemple 3.16

Problème

Un étudiant répond à une question à choix multiples comportant 5 réponses possibles. N'ayant aucune idée de la réponse correcte, il répond au hasard. Quelle est la probabilité que l'étudiant choisisse la bonne réponse ?

Solution

Puisque l'étudiant répond au hasard, chaque option de réponse a la même chance d'être choisie. Il y a 1 bonne réponse parmi 5 choix possibles. La probabilité de sélectionner la bonne réponse se calcule ainsi :

\begin{array}{rcl} Probabilité de réponse correcte & = & \frac{nombre d'issues favorables à l'événement d'intérêt}{nombre total d'issues dans l'univers} \\ = & \frac{1}{5} = 0.20 = 20 % \end{array}

Remarquez dans l'Exemple 3.16 que les probabilités peuvent être exprimées sous forme de fractions, de nombres décimaux ou de pourcentages.

Notez également que toute probabilité doit être comprise entre 0 et 1 inclus. Un événement de probabilité zéro ne se produira jamais, et un événement de probabilité 1 est certain de se produire. Une probabilité supérieure à 1 est impossible, de même qu'une probabilité négative.

Événement complémentaire

L'événement complémentaire (complement of an event) est l'ensemble de toutes les issues de l'univers qui ne sont pas incluses dans l'événement. Le complémentaire de l'événement $A$ est généralement noté $A'$ (A premier (A prime)). Pour obtenir la probabilité du complémentaire de l'événement $A$ , on soustrait la probabilité de l'événement $A$ de 1.

P (A') = 1 - P (A)

Exemple 3.17

Problème

Une entreprise estime à 0,1 % la probabilité qu'un employé transmette des informations confidentielles à un pirate informatique. Déterminez la probabilité qu'un employé ne transmette aucune information confidentielle lors d'une tentative de piratage.

Solution

Soit l'événement $A$ le fait qu'un employé transmette des informations confidentielles à un pirate. L'événement complémentaire $A'$ est alors le fait qu'un employé ne transmette aucune information confidentielle au cours d'une tentative de piratage.

\begin{array}{rcl} P (A') & = & 1 - P (A) \\ P (A') & = & 1 - 0.001 = 0.999 \end{array}

Il y a une probabilité de 99,9 % qu'un employé ne fournisse aucune information confidentielle lors d'une tentative de piratage.

Probabilité conditionnelle et théorème de Bayes

Les spécialistes des données s'intéressent souvent à la détermination de probabilités conditionnelles, c'est-à-dire à la survenue d'un événement qui est conditionnée ou dépendante d'un autre événement. Par exemple, un chercheur médical pourrait vouloir déterminer si le diagnostic d'asthme chez un patient dépend de son exposition à des polluants atmosphériques. De plus, lors du calcul de probabilités conditionnelles, nous pouvons parfois réviser une estimation de probabilité à la lumière de nouvelles informations obtenues. Comme nous le verrons dans la section suivante, le théorème de Bayes permet d'utiliser de nouvelles informations pour affiner une estimation probabiliste.

Probabilité conditionnelle

Une probabilité conditionnelle (conditional probability) est la probabilité qu'un événement se produise sachant qu'un autre événement s'est déjà produit. La notation de la probabilité conditionnelle est $P (A | B)$ , qui désigne la probabilité de l'événement $A$ sachant que l'événement $B$ s'est réalisé. La barre verticale entre $A$ et $B$ indique la condition « sachant que ». (Dans cette notation, la barre verticale ne représente pas une division).

Par exemple, nous pourrions chercher à connaître la probabilité qu'un conducteur reçoive une amende de stationnement sachant qu'il n'a pas mis d'argent dans le parcmètre. De même, un chercheur médical pourrait s'intéresser à la probabilité qu'un patient développe une maladie cardiaque sachant qu'il est fumeur.

Si la survenue d'un événement influe sur la probabilité de réalisation d'un autre événement, on dit que les événements sont dépendants ; dans le cas contraire, ils sont indépendants. Les événements dépendants (dependent events) sont des événements où la survenue de l'un affecte la probabilité de survenue de l'autre. Les événements indépendants (independent events) sont des événements où la probabilité de survenue de l'un n'est pas affectée par la survenue de l'autre. La dépendance entre événements a des implications cruciales dans de nombreux domaines tels que le marketing, l'ingénierie, la psychologie et la médecine.

Exemple 3.18

Problème

Déterminez si les deux événements sont dépendants ou indépendants :

Obtenir un 3 lors d'un premier lancer de dé, puis obtenir un 4 lors d'un second lancer de dé
Obtenir pile lors d'un premier lancer de pièce et obtenir face lors d'un second lancer de pièce
Choisir cinq joueurs de basket-ball dans une équipe professionnelle et constater qu'un joueur mesure plus de 6 pieds (environ 1,83 m)
Tirer un as d'un jeu de 52 cartes, remettre la carte dans le paquet, puis tirer un roi
Tirer un as d'un jeu de 52 cartes, ne pas remettre la carte dans le paquet, puis tirer un roi

Solution

Le résultat d'un lancer n'affecte en rien le résultat du lancer suivant ; ces événements sont donc indépendants.
Le résultat d'un lancer de pièce n'affecte pas les résultats des autres lancers ; ces événements sont donc indépendants.
Les joueurs de basket-ball sont généralement de grande taille ; ils ont donc une probabilité plus élevée de dépasser 6 pieds par rapport à la population générale. Ces événements sont donc dépendants.
Le fait de tirer un as d'un jeu de 52 cartes puis de le replacer rétablit le jeu dans son état d'origine ; la probabilité de tirer un roi n'est donc pas influencée par le tirage de l'as. Ces événements sont donc indépendants.
En tirant un as d'un jeu de 52 cartes sans le replacer, il ne reste plus que 51 cartes dans le paquet. Dès lors, la probabilité de tirer un roi est modifiée par le tirage de l'as ; ces événements sont donc dépendants.

Il existe plusieurs façons d'utiliser les probabilités conditionnelles dans les applications de science des données.

La probabilité conditionnelle se définit comme suit :

P (A | B) = \frac{P (A and B)}{P (B)}, where P (B) \neq 0

Lors de l'évaluation de la probabilité conditionnelle $P (A | B)$ , si les deux événements sont indépendants, cela signifie que l'événement $A$ n'est pas affecté par la réalisation de l'événement $B$ ; nous pouvons donc écrire que $P (A | B) = P (A)$ pour des événements indépendants.

Si nous constatons que $P (A | B)$ n'est pas égal à $P (A)$ , cela indique que les événements sont dépendants.

$P (A | B) = P (A)$ implique des événements indépendants, où $P (B) \neq 0$ .

$P (A | B) \neq P (A)$ implique des événements dépendants.

Exemple 3.19

Problème

Le Tableau 3.2 présente le nombre de diplômes en soins infirmiers et d'autres diplômes délivrés par une université au cours d'une année donnée, les données étant ventilées par groupes d'âge. Calculez la probabilité qu'un diplômé choisi au hasard ait obtenu un diplôme en soins infirmiers, sachant qu'il appartient au groupe d'âge des 23 ans et plus.

Groupe d'âge	Diplômes en soins infirmiers	Autres diplômes	Total
22 ans et moins	1036	1287	2323
23 ans et plus	986	932	1918
Total	2022	2219	4241

Tableau 3.2 Nombre de diplômes en soins infirmiers et autres diplômes dans une université par groupe d'âge

Solution

Puisqu'il est précisé que le groupe considéré est celui des diplômés âgés de 23 ans et plus, concentrons-nous uniquement sur la deuxième ligne du tableau.

En observant uniquement la deuxième ligne du tableau, nous recherchons la probabilité qu'un diplômé choisi au hasard ait obtenu un diplôme en soins infirmiers. L'univers réduit comprend 1 918 diplômés, et 986 d'entre eux ont obtenu un diplôme en soins infirmiers. La probabilité peut donc se calculer ainsi :

P (diplôme en soins infirmiers | groupe d'âge de 23 ans et plus) = \frac{986}{1,918} = 0.514

Une autre méthode d'analyse pour cet exemple consiste à réécrire la probabilité conditionnelle à partir de l'équation de $P (A et B)$ , comme suit :

\begin{array}{rcl} P (A et B) & = & P (A) \cdot P (B | A) \\ se réécrit : P (B | A) & = & \frac{P (A et B)}{P (A)} \end{array}

Nous pouvons à présent utiliser cette relation pour calculer la probabilité qu'un diplômé choisi au hasard ait obtenu un diplôme en soins infirmiers, sachant qu'il appartient au groupe d'âge des 23 ans et plus. La probabilité de $A$ et $B$ est la probabilité qu'un diplômé ait obtenu un diplôme en soins infirmiers tout en appartenant au groupe d'âge des 23 ans et plus. D'après le tableau, 986 diplômés ont obtenu un diplôme en soins infirmiers et font partie de ce groupe d'âge. Puisque ce nombre s'inscrit dans un échantillon total de 4 241 personnes, nous pouvons écrire la probabilité des événements $A$ et $B$ sous la forme :

P (A et B) = \frac{986}{4,241}

Nous pouvons également calculer la probabilité qu'un diplômé appartienne au groupe d'âge des 23 ans et plus. D'après le tableau, il y a 1 918 diplômés dans ce groupe d'âge sur un total de 4 241 personnes ; nous pouvons donc exprimer la probabilité de l'événement $A$ comme suit :

P (A) = \frac{1,918}{4,241}

Ensuite, nous pouvons substituer ces probabilités dans la formule de $P (B | A)$ , ce qui donne :

P (B | A) = \frac{P (A et B)}{P (A)} = \frac{\frac{986}{4,241}}{\frac{1,918}{4,241}} = \frac{986}{4,241} \cdot \frac{4,241}{1,918} = \frac{986}{1,918} = 0.514

Probabilité d'au moins un

La probabilité d'au moins une occurrence (at least one occurrence) d'un événement revêt souvent un grand intérêt dans de nombreuses applications de la science des données. Par exemple, un médecin pourrait souhaiter connaître la probabilité qu'au moins une des opérations programmées cette semaine entraîne une infection de quelque type que ce soit.

L'expression « au moins un » correspond à la condition d'un ou plusieurs succès. Du point de vue de l'univers des possibles, obtenir un ou plusieurs succès est le complémentaire de n'obtenir « aucun succès ». En utilisant la règle de l'événement complémentaire abordée précédemment, nous pouvons poser la formule suivante :

P (au moins un succès) = 1 - P (aucun succès)

À titre d'exemple, nous pouvons calculer la probabilité de lancer un dé 3 fois et d'obtenir au moins un quatre sur l'ensemble des lancers. Cela revient à déterminer d'abord la probabilité de n'obtenir aucun quatre lors des 3 lancers, puis à soustraire cette probabilité de 1. La probabilité de ne pas obtenir de quatre lors d'un lancer de dé est de 5/6. Ainsi, la probabilité de lancer un dé 3 fois et d'obtenir au moins un quatre est de $1 - {(\frac{5}{6})}^{3} = 0.421$ .

Exemple 3.20

Problème

À partir de données historiques, les administrateurs d'un hôpital établissent que la probabilité de réussite d'une chirurgie du genou est de 0,89.

Au cours d'une journée donnée, l'hôpital planifie quatre interventions chirurgicales du genou. Calculez la probabilité que ces quatre opérations soient toutes couronnées de succès.
Calculez la probabilité qu'aucune de ces opérations du genou ne réussisse.
Calculez la probabilité qu'au moins une des opérations du genou réussisse.

Solution

Pour que les quatre interventions soient couronnées de succès, cela signifie que la première réussit, et la deuxième réussit, et la troisième réussit, et la quatrième réussit. Étant donné que le succès d'une opération du genou n'influe pas sur le succès d'une autre opération, nous pouvons supposer que ces événements sont indépendants. Dès lors, la probabilité que les quatre interventions réussissent peut être calculée à l'aide de la formule de probabilité pour $P (A et B)$ en multipliant les probabilités entre elles :

$\begin{array}{rcl} P (A et B et C et D) & = & P (A) \cdot P (B) \cdot P (C) \cdot P (D) \\ = & 0.89 \cdot 0.89 \cdot 0.89 \cdot 0.89 = 0.627 \end{array}$

Il y a environ 63 % de chances que les quatre interventions chirurgicales du genou soient des succès.

La probabilité qu'une opération du genou échoue peut être calculée à l'aide de la règle de l'événement complémentaire. Si la probabilité de réussite d'une chirurgie est de 0,89, alors la probabilité d'échec est de 0,11 :

$P (A') = 1 - P (A) = 1 - 0.89 = 0.11$

Sur cette base, la probabilité que les quatre interventions échouent peut être calculée au moyen de la formule de probabilité pour $P (A et B)$ en multipliant les probabilités entre elles :

$\begin{array}{rcl} (A' et B' et C' et D') & = & P (A') \cdot P (B') \cdot P (C') \cdot P (D') \\ = & 0.11 \cdot 0.11 \cdot 0.11 \cdot 0.11 = 0.00015 \end{array}$

Cette probabilité étant extrêmement faible, il est très peu probable qu'aucune des opérations ne réussisse.

Pour calculer la probabilité qu'au moins une des opérations du genou soit couronnée de succès, utilisons la formule de probabilité pour « au moins un », calculée comme le complémentaire de l'événement « aucun succès ».

$\begin{array}{rcl} P (au moins un succès) & = & 1 - P (aucun succès) \\ P (au moins un succès) & = & 1 - 0.00015 = 0.99985 \end{array}$

Cela indique une très forte probabilité qu'au moins une des opérations du genou réussisse.

Théorème de Bayes

Le théorème de Bayes (Bayes' Theorem) est une technique statistique permettant d'actualiser des estimations de probabilité à la lumière de nouvelles informations ou de données probantes, favorisant ainsi une prise de décision plus exacte et efficace dans des contextes d'incertitude. Le théorème de Bayes est fréquemment employé pour évaluer les probabilités liées aux diagnostics médicaux, par exemple la probabilité qu'un patient développe un cancer au vu des résultats d'un test de dépistage. Cela s'avère capital dans l'analyse médicale pour évaluer l'impact d'un faux positif (false positive), situation dans laquelle le patient n'est pas atteint de l'affection, mais où le test de dépistage indique à tort qu'il l'est.

Le théorème de Bayes permet de calculer la probabilité conditionnelle $P (A | B)$ . Il existe sous plusieurs formes, comme illustré ci-dessous :

\begin{array}{rcl} P (A | B) & = & \frac{P (A) \cdot P (B | A)}{P (B)} \\ P (A | B) & = & \frac{P (A) \cdot P (B | A)}{P (A) \cdot P (B | A) + P (A^{'}) \cdot P (B | A^{'})} \end{array}

Exemple 3.21

Problème

Supposons qu'un certain type de cancer touche 3 % de la population. Appelons l'événement « une personne est atteinte de ce cancer » l'événement $A$ , de sorte que :

P (A) = 0.03

Un patient peut subir un test de dépistage pour ce type de cancer. Supposons que la probabilité d'un vrai positif pour ce test soit de 75 %, ce qui indique que la probabilité qu'une personne obtienne un résultat positif sachant qu'elle est effectivement atteinte d'un cancer est de 0,75. Supposons également que la probabilité d'un faux positif pour ce test de dépistage soit de 15 %, ce qui signifie que la probabilité qu'une personne obtienne un résultat positif sachant qu'elle n'a pas de cancer est de 0,15.

Un chercheur médical souhaite calculer la probabilité qu'un patient soit réellement atteint d'un cancer sachant que le test de dépistage donne un résultat positif.

Le chercheur s'intéresse au calcul de $P (A | B)$ , où l'événement $A$ est le fait que la personne soit réellement atteinte d'un cancer et l'événement $B$ est le fait que la personne présente un résultat positif au test de dépistage. Utilisez le théorème de Bayes pour calculer cette probabilité conditionnelle.

Solution

D'après l'énoncé, les probabilités suivantes sont connues :

\begin{array}{rcl} P (A) & = & 0.03 \\ P (A') & = & 0.97 \end{array}

Les probabilités conditionnelles peuvent être interprétées comme suit :

\begin{array}{rcl} P (B | A) & = & P (résultat de test positif | le patient a un cancer) = 0.75 \\ P (B | A') & = & P (résultat de test positif | le patient n'a pas de cancer) = 0.15 \end{array}

En substituant ces probabilités dans la formule du théorème de Bayes, on obtient :

P (A | B) = \frac{P (A) \cdot P (B | A)}{P (A) \cdot P (B | A) + P (A^{'}) \cdot P (B | A^{'})}

\begin{array}{rcl} P ( le patient a un cancer | résultat de test positif) = \frac{0.03 \cdot 0.75}{0.03 \cdot 0.75 + 0.97 \cdot 0.15} = 0.134 \end{array}

Ce résultat issu du théorème de Bayes indique que, même si un patient obtient un résultat positif lors du test de dépistage, cela n'implique pas une probabilité élevée qu'il soit atteint d'un cancer. Il n'y a que 13 % de chances que le patient ait un cancer sachant que le test de dépistage s'est révélé positif.