Accent sur la gestion des données

8.1 Accent sur la gestion des données

Objectifs d'apprentissage

À la fin de cette section, vous serez capable de :

  • Discuter de la gestion des données et de sa relation avec l'informatique et la science des données
  • Comprendre que les données sont l'épine dorsale de l'industrie
  • Identifier et expliquer les concepts clés de la gestion des données
  • Distinguer les différents rôles dans le domaine de la gestion des données
  • Expliquer l'état actuel de la gestion des données

Dans le monde numérique actuel, la collecte d'informations et de faits stockés numériquement par un ordinateur, ou données (data), est un processus simple. De nombreuses méthodes directes et indirectes, telles que les médias sociaux, soutiennent le processus de collecte de données. Une grande quantité de données est collectée chaque jour, chaque heure et chaque minute. Mais cette quantité de données n'est pas utile à moins que des bénéfices ne puissent en être tirés, ce qui nécessite de savoir quoi faire avec ces données. Dans ce contexte, les données sont comme le « pétrole brut » qui doit être stocké numériquement afin de permettre l'extraction d'informations et de connaissances via des systèmes de gestion de l'information et des connaissances. Les données structurées connexes sont stockées dans un système de gestion de base de données. Ces connaissances aident les décideurs de toute organisation à prendre des décisions importantes, telles que l'augmentation des ventes dans certaines régions, le changement de fournisseurs au sein de la chaîne d'approvisionnement, la diminution de la fabrication d'un produit spécifique, la modification du processus d'embauche, l'étude de la culture communautaire et l'identification de la demande des clients. Il est clair qu'une gestion appropriée des données est nécessaire pour soutenir les décideurs. L'étude de la gestion efficace des données, ou gestion des données (data management), traite les données comme un actif d'entreprise similaire aux actifs physiques tels que les usines et les équipements. La gestion des données nécessite une stratégie pour analyser les données en les collectant, puis en les stockant, en les nettoyant, en les prétraitant et en les préparant pour l'analyse, ce qui mènera à la prise de décision.

Concepts en pratique

Gérer vos données de médias sociaux

Facebook, Instagram, LinkedIn, Snapchat, Tik Tok, X et de nombreuses autres applications de médias sociaux contrôlent vos données. Vous publiez très probablement trop d'informations sur votre vie, votre travail et vos études, mais il n'y a pas que vous, tout le monde partage des données sur les médias sociaux. Une supermassive « Mère de toutes les brèches » (MOAB) rendue publique et découverte début 2024 contient des données provenant de nombreuses brèches précédentes, comprenant 12 To d'informations issues des données d'utilisateurs de LinkedIn, X (anciennement Twitter), Weibo, Tencent et d'autres plateformes.

Vous êtes-vous déjà demandé comment les fournisseurs de services gèrent ces données ? Comment stockent-ils les données ? Où les stockent-ils ? Quelle base de données utilisent-ils ? Et la grande question : pouvons-nous tirer parti de ces données et gérer nos propres données ? Meta offre la possibilité de contrôler votre expérience Facebook en gérant vos données ; tout ce que vous avez à faire est de remplir un formulaire, qui vous donne plusieurs options telles que le téléchargement de vos données, la gestion des préférences publicitaires et la suppression d'une balise d'une publication.1

La gestion des données en informatique et en science des données

L'informatique est l'étude des algorithmes de calcul qui reçoivent des données en entrée, traitent les données et produisent des sorties. L'informatique applique les principes des mathématiques, de la physique et de l'ingénierie. Le matériel (Hardware), les logiciels, les systèmes d'exploitation et les applications travaillent ensemble pour effectuer des calculs informatiques.

La science des données est l'étude de l'extraction de connaissances à partir d'informations en utilisant l'analyse d'hypothèses et des algorithmes. L'information est le résultat du traitement des données brutes. La Figure 8.2 illustre les compétences et les connaissances nécessaires pour réussir en science des données.

Cercles avec des chevauchements de connaissances en informatique, mathématiques et statistiques, et domaine d'affaires, créant : apprentissage automatique, science des données, conception de logiciels et analyse de données.
Figure 8.2 La science des données combine les compétences en programmation, les systèmes analytiques, les statistiques et l'exploration de données. (source : Copyright Rice University, OpenStax, sous licence CC BY 4.0)

La gestion des données dans l'industrie

Les données sont l'épine dorsale de toute entreprise car leur analyse améliore les performances et augmente les profits. La collecte de données brutes provenant de diverses sources et leur traitement pour la modélisation représentent environ 80 % du travail du scientifique des données.2 Les projets d'entreprise impliquent généralement une quantité massive de données, ce qui rend impossible leur stockage local, de sorte que de nombreuses entreprises déplacent leurs données vers l'infonuage. Une entreprise peut également choisir d'exécuter des applications ainsi que des bases de données et des systèmes d'exploitation dans l'infonuage. La gestion des données est souvent prise en charge par une équipe d'ingénierie des données distincte, car la plupart des informaticiens et des scientifiques des données n'ont pas suffisamment de connaissances sur le stockage et l'infrastructure des données.

Pleins feux sur l'industrie

Gestion des données industrielles

La gestion des données est importante dans toutes les industries aujourd'hui. Le principal avantage de la gestion des données est de minimiser les erreurs potentielles en contrôlant l'accès aux données à l'aide d'un ensemble de politiques.

Expliquez l'utilité de connaître la gestion des données dans les industries de la vente au détail à des fins de marketing produit. (Indice : La gestion des données peut aider à la publicité ciblée, par exemple.)

Aspects de la gestion des données

Il existe divers aspects d'une gestion efficace des données : le catalogage des métadonnées, la modélisation des métadonnées, la qualité des données (exactitude des données, exhaustivité des données et cohérence des données) et la gouvernance des données, que nous aborderons plus en détail dans les sous-sections suivantes.

Catalogage des métadonnées

Les métadonnées sont utilisées dans un système de gestion de base de données (SGBD) (database management system (DBMS)), qui est un système qui crée, stocke et gère un ensemble de bases de données. Dans une approche SGBD, les métadonnées sont stockées dans un catalogue appelé dictionnaire de données. Un dictionnaire de données (data dictionary) est un ensemble d'informations décrivant le contenu, le format et la structure d'une base de données (par exemple, dans un SGBD relationnel, le catalogue inclut les noms de toutes les tables disponibles et de leurs champs associés). Le catalogue de métadonnées constitue le cœur du système de base de données et peut faire partie d'un SGBD ou être un composant autonome. Le processus de catalogage des métadonnées consiste à collecter des données sur les processus, les personnes, les produits et toutes les données liées à l'entreprise, ce qui constitue une source d'informations importante pour les utilisateurs finaux, les développeurs d'applications, ainsi que le SGBD lui-même. Le catalogue fournit généralement un modèle de métadonnées extensible, des fonctions d'importation/exportation, un support pour la maintenance et la réutilisation des métadonnées, la surveillance des règles d'intégrité, des fonctions d'accès utilisateur et des statistiques sur les données et leur utilisation pour l'administrateur de base de données et l'optimiseur (optimizer) de requêtes. Le catalogage des métadonnées améliore l'expérience utilisateur, ajoute des avantages concurrentiels et améliore l'efficacité de l'entreprise.

Modélisation des métadonnées

Une présentation métier des métadonnées est la modélisation des métadonnées (metadata modeling). Un processus de conception de base de données peut être utilisé pour concevoir un modèle conceptuel d'une base de données stockant des métadonnées sous la forme d'un modèle entité-relation étendu (EER) (Figure 8.3) ou d'un modèle de langage de modélisation unifié (UML). EER et UML sont utilisés pour créer des modèles de conception de grands systèmes. La modélisation des métadonnées peut couvrir diverses vues de ces modèles. Par exemple, les modèles EER et les diagrammes de classes UML aident à exprimer des vues d'un modèle de données (data model). Alors que l'EER se concentre uniquement sur la modélisation des données, la notation UML peut être utilisée pour exprimer des modèles complets de systèmes d'information à l'aide de diagrammes supplémentaires.

Boîtes avec « Expédier à domicile » et « Retirer en magasin » connectées par des lignes coupées par des arcs à un cercle avec « p », connecté à une boîte avec « Produit », puis connecté séparément à des ovales avec : « ANR » et « pName. »
Figure 8.3 Ce diagramme EER modélise une entité produit et indique qu'un produit peut être soit expédié, soit retiré, mais pas les deux. (source : Copyright Rice University, OpenStax, sous licence CC BY 4.0)

Qualité des données

La mesure de la façon dont les données représentent leur objectif ou leur adéquation à l'utilisation est appelée qualité des données (DQ) (data quality (DQ)). Des données de qualité acceptable dans un contexte de décision peuvent être perçues comme de mauvaise qualité dans un autre. La qualité des données détermine la valeur intrinsèque des données pour l'entreprise. Les entreprises peuvent utiliser le concept données erronées, résultats erronés (GIGO) (garbage in, garbage out (GIGO)), ce qui signifie que la qualité de la sortie est déterminée par la qualité de l'entrée. Une mauvaise qualité des données (DQ) a un impact sur les organisations de nombreuses manières et à différents niveaux de gestion. Par exemple, elle a un impact négatif sur les opérations quotidiennes ; cependant, elle fait une grande différence au niveau stratégique dans la prise de décisions. La DQ est un concept multidimensionnel dans lequel chaque dimension représente un aspect unique tel que des vues, des critères ou des mesures. La DQ comprend des perspectives objectives et subjectives et peut catégoriser différentes dimensions de la qualité des données. Le cadre de la DQ comporte quatre catégories : DQ intrinsèque, DQ contextuelle, DQ de représentation et DQ d'accès, comme illustré dans la Figure 8.4.

Organigramme hiérarchique du cadre de qualité des données. Deuxième niveau : DQ intrinsèque, DQ contextuelle, DQ de représentation, DQ d'accès. Troisième niveau : Exactitude des données, Exhaustivité des données, Cohérence des données, Données.
Figure 8.4 Les quatre catégories du cadre de qualité des données sont la DQ intrinsèque, la DQ contextuelle, la DQ de représentation et la DQ d'accès. (source : Copyright Rice University, OpenStax, sous licence CC BY 4.0)

Dans la catégorie DQ intrinsèque, l'exactitude des données (data accuracy) fait référence à la question de savoir si les valeurs de données stockées pour un objet sont les valeurs correctes, et elles sont souvent corrélées avec d'autres dimensions de la DQ. Nous pouvons considérer la fiabilité des données comme faisant partie de l'exactitude des données. Le degré auquel toutes les données d'un ensemble de données spécifique sont disponibles avec un pourcentage minimum de données manquantes est appelé exhaustivité des données (data completeness). Elle peut être envisagée sous au moins trois perspectives : l'exhaustivité du schéma (le degré auquel les types d'entités et les types d'attributs (attribute) sont manquants du schéma), l'exhaustivité des colonnes (le degré auquel il existe des valeurs manquantes dans une colonne d'une table) et l'exhaustivité de la population (le degré auquel les membres nécessaires d'une population sont présents ou non). La dimension de cohérence des données (data consistency) fait partie de la catégorie de représentation et peut également être envisagée sous plusieurs perspectives : cohérence des données redondantes ou dupliquées dans une ou plusieurs tables, cohérence entre deux éléments de données liés, et cohérence du format pour le même élément de données utilisé dans différentes tables. La dimension d'accessibilité fait partie de la catégorie d'accès et reflète la facilité de récupération des données à partir des sources de données sous-jacentes (cela implique souvent un compromis avec la sécurité, qui fait également partie de la catégorie d'accès).

Il existe de nombreuses causes courantes de mauvaise qualité des données, telles que les suivantes :

  • traitement informatique
    • duplication (duplication) : plusieurs sources de données fournissant les mêmes données, ce qui peut produire des doublons
    • problème de cohérence (consistency problem) : différentes occurrences de données ou données incorrectes
    • problème d'objectivité (objectivity problem) : données donnant des résultats différents à chaque processus
    • ressources informatiques limitées (limited computing resources) : ressources informatiques insuffisantes limitant l'accessibilité des données pertinentes
    • problème d'accessibilité (accessibility problem) : de grands volumes de données stockées rendant difficile l'accès aux informations nécessaires dans un délai raisonnable
  • intervention humaine
    • information biaisée (biased information) : utilisation du jugement humain dans la production de données
    • problème de pertinence (relevance problem) : différents processus mettant à jour les mêmes données
    • problèmes de qualité des données (data quality problems) : découplage des producteurs et des consommateurs de données

Gouvernance et conformité des données

L'ensemble des rôles, politiques et responsabilités clairs qui permet à une entreprise de gérer et de protéger la qualité des données à l'aide de règles et de politiques définies en interne est appelé gouvernance des données (data governance). Le concept connexe qui garantit que les pratiques en matière de données s'alignent sur les exigences légales externes et les normes de l'industrie est appelé conformité des données (data compliance). Par exemple, le RGPD britannique (Règlement général sur la protection des données) est la réglementation du Royaume-Uni en matière de sécurité des données (data security), calquée sur le RGPD de l'UE qui régit et réglemente la manière dont les organisations et les entreprises britanniques collectent, stockent, utilisent et traitent les données personnelles.

Grâce à la gouvernance des données, les données sont gérées comme un actif plutôt que comme un passif. La gouvernance des données a trois dimensions : la technologie, les personnes et les processus. Elle devrait inclure des rôles standard pour la qualité, la sécurité et la propriété.

Lors de la planification de la gouvernance des données, nous devrions répondre à quatre questions : quoi, comment, pourquoi et qui. Quelles politiques devrions-nous inclure ? Comment intégrons-nous les politiques au processus d'affaires de l'entreprise ? Pourquoi avons-nous besoin de cette politique ? Qui fera partie de cette politique ?

Différents cadres ont été introduits pour la gestion de la qualité des données et l'amélioration de la qualité des données : Total Data Quality Management (TDQM), Total Quality Management (TQM), Capability Maturity Model Integration (CMMI), ISO 9000, Control Objectives for Information and Related Technology (COBIT), Data Management Body of Knowledge (DMBOK), Information Technology Infrastructure Library (ITIL) et Six Sigma. Ces cadres fournissent des lignes directrices aux organisations qui définissent comment un produit ou un processus doit être basé sur des normes de haute qualité. Le principal problème de ces cadres est qu'ils peuvent entraîner des échecs lorsque le système ne prend pas en compte tous les processus dans un flux correct.

Il est possible d'annoter les données avec des métadonnées de qualité des données comme solution à court terme. Malheureusement, de nombreux efforts de gouvernance des données (le cas échéant) sont principalement réactifs et ad hoc.

Enjeux mondiaux de la technologie

Piraté !

Chegg est une entreprise de technologie éducative basée en Californie. Elle offre divers services en ligne tels que la location de manuels, le tutorat, l'aide aux devoirs et bien plus encore aux étudiants de tout le pays. En avril 2018, une partie non autorisée a eu accès à la base de données de Chegg. Cette base de données hébergeait des informations utilisateur pour Chegg et ses sociétés affiliées (par exemple, EasyBib). Les informations piratées comprenaient des noms, des courriels, des mots de passe et des adresses, mais n'incluaient aucune information financière ni numéro de sécurité sociale. Après avoir découvert la brèche, Chegg a mis en œuvre des plans pour notifier les 40 millions d'utilisateurs affectés. La motivation de l'attaque n'est toujours pas claire, mais il est probable qu'une tierce partie ait cherché des informations pour tirer profit du vol d'identité.

Que peuvent faire les utilisateurs de Chegg pour se protéger de ce piratage et des futures violations de données personnelles ?

Rôles en gestion des données

Au sein de toute organisation, il existe divers rôles en gestion des données, notamment architecte de l'information, concepteur de bases de données, propriétaire des données, intendant des données, administrateur de bases de données, informaticien et scientifique des données. Leurs rôles sont décrits dans les sections suivantes.

Architecte de l'information

Un architecte de l'information (information architect), également connu sous le nom d'architecte de données ou d'analyste d'informations, est responsable de la conception du modèle de données conceptuel (plans) pour combler le fossé entre les processus d'affaires et l'environnement informatique.

L'architecte de l'information collabore avec le concepteur de bases de données qui peut aider à choisir le type de modèle de données conceptuel (par exemple, EER ou UML) et l'outil de modélisation de bases de données. La Figure 8.5 montre un exemple de différents systèmes de bases de données que divers personnels travaillant dans la gestion des données peuvent rencontrer.

Diagramme montrant la catégorisation des systèmes de bases de données non relationnelles et relationnelles.
Figure 8.5 Les systèmes de bases de données existants peuvent être classés comme non relationnels et relationnels. (source : Copyright Rice University, OpenStax, sous licence CC BY 4.0)

Concepteur de bases de données

Un concepteur de bases de données (database designer) est responsable de la création, de l'implémentation et de la maintenance du système de gestion de base de données. D'autres responsabilités incluent la traduction du modèle de données conceptuel en un modèle de données logique et interne, l'assistance aux développeurs d'applications pour la définition des vues du modèle de données externe, et la définition de conventions de nommage uniformes à l'échelle de l'entreprise lors de la création des différents modèles de données.

Propriétaire des données

Le propriétaire des données (data owner) a l'autorité de décider en dernier ressort de l'accès et de l'utilisation des données. Le propriétaire des données peut être le producteur original des données, ou les données peuvent provenir d'un tiers. Une personne qui assume le rôle de propriétaire des données doit être capable d'insérer, de modifier, de supprimer ou de mettre à jour des données, ainsi que de vérifier ou de renseigner la valeur d'un champ. Le propriétaire des données est celui qui est responsable de la vérification de la qualité d'un ou plusieurs ensembles de données.

Intendant des données

Un intendant des données (data steward) est un expert en DQ qui s'assure que les données commerciales réelles de l'entreprise et les métadonnées sont exactes, accessibles, sécurisées et sûres. L'intendant des données effectue des contrôles de qualité des données approfondis et réguliers, initie des mesures correctives ou des enquêtes plus approfondies sur les causes profondes des problèmes de qualité des données, et aide à concevoir des mesures préventives (par exemple, modifications des systèmes d'information opérationnels, règles d'intégrité).

Administrateur de bases de données

L'administrateur de bases de données (DBA) (database administrator (DBA)) est responsable de l'implémentation et de la surveillance de la base de données ainsi que de s'assurer que les bases de données fonctionnent efficacement en collaboration avec les gestionnaires de réseau et de système.

Informaticien

Un informaticien (computer scientist) est une personne qui possède des connaissances théoriques et pratiques en informatique. L'informaticien résoudra des problèmes en utilisant la technologie en appliquant les pratiques de l'informatique. Les informaticiens se concentrent généralement sur la création de solutions de bout en bout pour les entreprises. Par exemple, les informaticiens peuvent créer des applications logicielles qui implémentent des algorithmes complexes et stockent et récupèrent des données connexes dans et depuis des systèmes de bases de données. Les informaticiens peuvent également être impliqués dans la conception et l'optimisation d'algorithmes d'apprentissage automatique complexes.

Scientifique des données

Les scientifiques des données se concentrent généralement sur la création de modèles de classification et de prédiction en entraînant des algorithmes d'apprentissage automatique existants. Les modèles entraînés qui en résultent agissent comme des programmes pour aider à classer de nouvelles données ou à prédire un résultat basé sur des données d'entrée. En général, un scientifique des données (data scientist) est une personne qui possède des connaissances théoriques et pratiques en gestion des données. Le profil d'un scientifique des données combine l'informatique, les mathématiques et les statistiques. Une personne occupant ce rôle est responsable de la collecte d'une grande quantité de données structurées, semi-structurées et de données non structurées (unstructured data) afin de prétraiter et de préparer les données pour une analyse de données avancée en vue de développer un produit ou de prendre une décision commerciale.

Feuille de route de la gestion des données

La feuille de route de la gestion des données comporte plusieurs étapes, allant de la collecte et du stockage des données à l'obtention d'un produit final ou d'une décision. Les bases de données disponibles varient en type et en fournisseur (par exemple, SQL, Hadoop, Spark et MongoDB). Stocker les données dans des bases de données n'est pas difficile, mais l'ensemble du processus de gestion des données se déroule le plus souvent dans l'infonuage, ce qui ajoute un nouvel ensemble de compétences nécessaires pour l'informaticien et le scientifique des données. La croissance massive des données a transformé la façon dont les données sont stockées et analysées, et de nombreuses applications et bases de données sont hébergées sur des serveurs dans des centres de données ailleurs. Lors de la préparation des données, les scientifiques des données et les informaticiens doivent nettoyer et formater les données/informations pour une utilisation marketing correcte. Nous discuterons plus en détail des types de bases de données ainsi que de leurs implémentations de structures de données (voir 8.2 Systèmes de gestion de données).

La technologie dans la vie quotidienne

Gestion des données de bout en bout

La gestion des données de bout en bout couvre le cycle de vie des données au sein du système. Un cycle de vie des données est un processus qui aide l'organisation à gérer le flux de données, et il comprend la création des données, le stockage des données et le partage des données.

Un système de positionnement mondial (GPS) (global positioning system (GPS)) est un système embarqué qui utilise principalement des données pour fournir des itinéraires et des destinations. La plupart d'entre nous utilisent un GPS pour vérifier les travaux routiers, le trafic ou pour trouver l'itinéraire le plus court.

Comment la connaissance de la gestion des données de bout en bout aide-t-elle les gens dans leur vie quotidienne ? Examinez ces collectes de données sous tous les aspects de la gestion des données, y compris la collecte, le stockage et l'analyse de ces données. Fournissez quelques scénarios illustratifs pour expliquer votre opinion.