7.5 Traitement du langage naturel
Objectifs d'apprentissage
À la fin de cette section, vous devriez être en mesure de :
- 7.5.1 Présenter un bref historique des développements majeurs du traitement du langage naturel.
- 7.5.2 Discuter de l'importance des algorithmes de reconnaissance vocale et de synthèse vocale dans la vie quotidienne et fournir quelques exemples.
- 7.5.3 Expliquer comment ChatGPT peut être utilisé efficacement pour accélérer certains types de tâches tout en reconnaissant les enjeux éthiques liés à l'utilisation de ChatGPT et de technologies similaires.
L'IA et l'apprentissage profond ont progressé à un rythme soutenu au cours de la dernière décennie. Certaines des percées les plus significatives sont issues du traitement du langage naturel (natural language processing), ou NLP, qui est un domaine de l'IA axé sur la reconnaissance du langage écrit ou parlé et sur la génération de nouveaux contenus linguistiques. Depuis ses débuts modestes dans les années 1950, marqués par des programmes de traduction rudimentaires et des systèmes à base de règles, jusqu'au développement des modèles de réseaux de neurones, le NLP a connu une évolution remarquable. Au moment où ces lignes sont écrites, de puissantes plateformes de NLP telles que ChatGPT d'OpenAI et Copilot de Microsoft ont captivé l'attention générale grâce à leur capacité stupéfiante à comprendre des invites complexes et à y répondre, engageant les utilisateurs dans des conversations naturelles et cohérentes qui simulent des interactions humaines. ChatGPT et Copilot sont également qualifiés de grand modèle de langage (large language model), ou LLM, un type de modèle de NLP entraîné sur des ensembles de données massifs contenant des milliards, voire des billions de mots. Pour un exemple de ChatGPT en action, voir la Figure 7.12. Vous pouvez également vous rendre sur https://chat.openai.com/ pour utiliser ChatGPT gratuitement !
OpenAI. (2024). ChatGPT (version du 16 juin) [Grand modèle de langage]. https://chat.openai.com/chat (Créé sur : https://chat.openai.com/ avec l'invite : « Bonjour ! Parle-moi un peu de toi », suivie de l'invite : « C'est super ! Pourrais-tu m'en dire plus sur la façon dont tu comprends le langage ? » Remarque : chaque exécution de cette invite produira des réponses différentes.)
Les modèles de NLP (NLP models) peuvent agir comme des multiplicateurs de force, renforçant les capacités humaines en automatisant les tâches de routine et en augmentant l'intelligence humaine. Par exemple, ils peuvent aider à rédiger des lettres types, résumer des informations, analyser le sentiment dans d'importants volumes de texte, extraire des informations clés de documents, traduire d'une langue à une autre, et même générer du contenu créatif tel que des articles, des histoires ou de la poésie. Vous vous demandez peut-être si le NLP a été utilisé pour aider à rédiger ce manuel. Bien que presque tous les aspects de la rédaction aient été pris en charge par des humains, ChatGPT a souvent été utile pour trouver des idées lors de séances de remue-méninges, rechercher des informations de base et fournir un point de départ pour certains passages rédigés. Vous vivez actuellement le futur de l'IA, où de plus en plus de tâches considérées par les humains comme répétitives ou fastidieuses peuvent être déléguées aux ordinateurs !
Une brève histoire du NLP
Des jalons essentiels, de la création d'ELIZA (un « agent conversationnel » précurseur, ou chatbot — voir la Figure 7.13) dans les années 1960 à l'avènement des modèles de langage statistiques dans les années 1990, ont ouvert la voie à l'émergence des modèles appelés modèles Transformer et de modèles de langage de pointe comme ChatGPT dans les années 2010 et au-delà. Les modèles Transformer (transformer models) sont un type d'architecture de réseau de neurones utilisant un système de mémoire interne très sophistiqué pour capturer les dépendances à longue portée et à grande échelle dans les données d'entrée. Aujourd'hui, les modèles de NLP alimentent un large éventail d'applications du monde réel.
Voici une chronologie des étapes marquantes du développement du NLP. Ce domaine étant trop vaste pour être traité de manière exhaustive dans cet ouvrage, nous ne mentionnerons que certains des modèles majeurs sans entrer dans les détails. Le Tableau 7.3 met en lumière plusieurs développements clés.
| Année | Développement |
|---|---|
| Milieu des années 1960 | ELIZA, un programme informatique capable de simuler une conversation, a été créé par Joseph Weizenbaum au MIT. |
| Fin des années 1980 aux années 1990 | Les modèles de langage statistiques tels que les modèles de Markov cachés (HMM) (un type de modèle statistique utile pour prédire des données séquentielles, comme la parole et l'écriture manuscrite) et les modèles à n-grammes (modèles fondés sur la prédiction du prochain terme, ou n-ième, d'une séquence à partir des termes précédents), ont gagné en popularité pour des tâches telles que la reconnaissance vocale et la traduction automatique. |
| 2001 | Introduction de la métrique BLEU pour l'évaluation des systèmes de traduction automatique par Kishore Papineni et ses collègues. |
| 2003 | Moses, un système de traduction automatique statistique open source, a été présenté par Philipp Koehn et ses collègues. |
| 2013 | Word2vec, une technique de plongement lexical (word embedding), a été introduite par Tomas Mikolov et ses collègues chez Google. Le plongement lexical consiste à traduire des mots sous forme de vecteurs dans des espaces vectoriels de grande dimension de manière à préserver certaines relations sémantiques entre les mots. |
| 2017 | L'architecture Transformer, introduite dans l'article « Attention Is All You Need » par Ashish Vaswani et al., a révolutionné le monde du NLP. Au lieu d'analyser les mots un par un, un modèle Transformer examine des phrases, des paragraphes et des groupes de mots plus étendus grâce à un paradigme appelé auto-attention (self-attention), qui permet au modèle d'évaluer l'importance relative de différents mots ou expressions au sein d'un contexte plus large. |
| 2018 | OpenAI a présenté le premier GPT (Generative Pretrained Transformer), un modèle de langage non supervisé à grande échelle. |
| 2018 | BERT (Bidirectional Encoder Representations from Transformers), un modèle de langage fondé sur l'architecture Transformer, a été introduit par des chercheurs de Google. |
| 2020 | OpenAI a lancé GPT-3 (Generative Pretrained Transformer 3), un modèle de langage encore plus vaste et plus puissant, comptant jusqu'à 175 milliards de paramètres. |
| 2022 | ChatGPT, une variante de GPT-3 affinée pour les tâches conversationnelles, a été mise à disposition du public, suscitant un immense engouement grâce à ses performances impressionnantes pour générer des réponses semblables à celles d'un être humain. |
| 2023 | Améliorations axées sur l'efficacité, l'exactitude et la scalabilité des LLM. Sortie de GPT-4, qui intègre davantage d'entraînement avec rétroaction humaine, un perfectionnement continu à partir de données réelles et un contrôle qualité plus robuste. |
Bien que la plupart des développements se soient concentrés sur la reconnaissance et la génération de texte, des innovations majeures ont également été réalisées dans les domaines de l'art, de la musique, du montage vidéo et même de la programmation informatique.
Le NLP dans l'art génératif
L'art génératif (generative art) désigne l'utilisation d'outils d'IA pour enrichir ou créer de nouvelles œuvres artistiques et graphiques. Autrefois, on considérait que l'une des caractéristiques fondamentales distinguant l'être humain des animaux ou des ordinateurs était sa capacité à créer et à apprécier l'art. En contemplant le génie artistique de Léonard de Vinci, Vincent van Gogh, Pablo Picasso, Salvador Dalí, Frida Kahlo et Jean-Michel Basquiat, il est difficile d'imaginer une machine capable de produire quoi que ce soit de comparable aux chefs-d'œuvre créés par des artistes humains. Pourtant, nous commençons à assister à une révolution artistique menée par l'intelligence artificielle ! Tout jugement quant à la qualité est laissé à l'appréciation du lecteur, mais voici quelques outils actuellement disponibles pour l'art génératif.
OpenArt : OpenArt utilise des techniques de transfert de style neuronal pour transformer des photos en œuvres d'art inspirées du style d'artistes célèbres, ou pour créer ses propres images et animations à partir d'invites textuelles.
DALL-E et Craiyon (DALL-E and Craiyon) (anciennement DALL-E mini) : développé par OpenAI, Craiyon génère des images à partir de descriptions textuelles, illustrant sa capacité à concevoir un contenu visuel diversifié et imaginatif. La Figure 7.14 présente quelques exemples d'œuvres artistiques créées par Craiyon.
Projet Magenta (Magenta Project) : Magenta est un projet de recherche open source de Google qui explore l'intersection de l'IA et de la créativité, y compris la génération de musique et d'art. Il propose divers outils et modèles pour générer de la musique et des arts visuels au moyen de techniques d'apprentissage profond, telles que le transfert de style neuronal et les modèles de génération d'images.
La musique est un autre domaine d'expression artistique qui était, jusqu'à récemment, considéré comme réservé exclusivement à l'esprit humain. De nos jours, il existe de nombreux outils d'IA pour traiter, analyser et composer de la musique.
Jukebox : projet d'OpenAI, Jukebox emploie des algorithmes d'apprentissage automatique pour composer automatiquement des pistes musicales personnalisées pour des vidéos et d'autres contenus.
Le modèle Lyria (Lyria model) de Google DeepMind : Lyria est présenté comme le modèle de génération musicale par IA le plus avancé à ce jour. Il excelle dans la création de musique de haute qualité comportant à la fois des parties instrumentales et vocales, surmontant des défis tels que le maintien de la continuité musicale à travers les phrases et la gestion simultanée de plusieurs voix et instruments.
Amadeus Code : Amadeus Code est une plateforme de composition musicale assistée par IA qui utilise des algorithmes d'apprentissage profond pour générer des mélodies et des progressions d'accords. Elle permet aux utilisateurs de saisir des idées et préférences musicales et génère des compositions originales basées sur leurs indications.
Montage vidéo et sous-titrage
Il existe un certain nombre de technologies assistées par IA pour faciliter le montage et le sous-titrage de vidéos.
Descript : Descript intègre des outils de transcription et d'édition basés sur le NLP pour faciliter le montage de contenus audio et vidéo au moyen de commandes et de manipulations textuelles.
Kapwing : Kapwing utilise le NLP pour le sous-titrage automatique de vidéos, permettant aux utilisateurs de générer rapidement des sous-titres précis pour leurs vidéos.
Simon Says : Simon Says est une plateforme de transcription et de traduction assistée par IA qui utilise le NLP pour transcrire des fichiers audio et vidéo dans plusieurs langues. Elle propose des fonctionnalités telles que l'identification des locuteurs, l'alignement des codes temporels et le sous-titrage, aidant les monteurs vidéo à rationaliser le flux de postproduction.
Programmation informatique
Au moment de la rédaction de cet ouvrage, il est bien connu des chercheurs et des programmeurs que des modèles de NLP tels que ChatGPT peuvent générer du code dans n'importe quel langage de programmation courant à partir d'invites textuelles. De plus, les plateformes de développement en ligne telles que Google Colab (qui est la plateforme utilisée tout au long de cet ouvrage pour les exemples de code Python) offrent une assistance par IA pour la création et le débogage de code. Voici quelques ressources supplémentaires qui utilisent l'IA pour produire du code informatique.
GitHub Copilot : à ne pas confondre avec Microsoft Copilot, GitHub Copilot a été développé par GitHub en collaboration avec OpenAI en tant qu'outil de complètement de code alimenté par l'IA. Il utilise le NLP pour suggérer des fragments de code et proposer des suggestions tenant compte du contexte directement au sein d'environnements de développement intégrés (IDE) tels que Visual Studio Code.
TabNine : TabNine est un outil de complètement de code assisté par IA qui associe apprentissage profond et NLP pour fournir des suggestions intelligentes au fur et à mesure que les développeurs écrivent du code. Il prend en charge de nombreux langages de programmation et s'intègre aux éditeurs de code les plus populaires.
Sonar : Sonar est une plateforme d'analyse statique de code assistée par IA qui fait appel à des techniques d'apprentissage automatique et de NLP pour détecter les bogues potentiels, les vulnérabilités de sécurité et les problèmes de performance dans le code. Elle propose des recommandations judicieuses pour améliorer et nettoyer le code, ainsi que pour appliquer les meilleures pratiques de programmation.
CoNaLa : CoNaLa (Code/Natural Language) est un jeu de données et un projet de recherche qui vise à combler le fossé entre les descriptions en langage naturel et les fragments de code. Il utilise des techniques de NLP pour générer des morceaux de code à partir de descriptions en langage naturel de tâches de programmation, contribuant ainsi à automatiser la synthèse de code.
Reconnaissance vocale et synthèse vocale
Les modèles de NLP jouent un rôle crucial tant dans les applications de reconnaissance vocale que de synthèse vocale (TTS), permettant aux ordinateurs de comprendre et de produire la parole humaine.
Dans la reconnaissance vocale (speech recognition), les modèles de NLP traitent la langue parlée et la convertissent en texte. Cela implique plusieurs étapes :
- Analyse acoustique : le signal vocal est transformé en une séquence de vecteurs de caractéristiques au moyen de techniques d'apprentissage profond.
- Modélisation du langage : un traitement plus poussé permet au modèle de NLP d'analyser et de comprendre la structure linguistique des paroles prononcées, en tenant compte de facteurs tels que la grammaire, le vocabulaire et le contexte. Cela aide à reconnaître avec exactitude les mots et les expressions, même dans des environnements bruités ou ambigus.
- Décodage : une fois le signal vocal analysé sur les plans acoustique et linguistique, des algorithmes de décodage sont employés pour faire correspondre les caractéristiques observées à la séquence de mots ou d'expressions la plus probable.
Dans les applications de synthèse vocale (TTS) (text-to-speech (TTS)), les modèles de NLP réalisent le processus inverse : ils convertissent le texte en parole. Cela comprend les étapes suivantes :
- Analyse textuelle : grâce à des modèles sophistiqués d'apprentissage profond, le texte en entrée est analysé et traité afin d'extraire des éléments linguistiques tels que les mots, les phrases et la ponctuation.
- Modélisation de la prosodie : pour éviter une élocution « robotique », les modèles de NLP prennent en compte des caractéristiques linguistiques comme l'accentuation, l'intonation et le rythme afin de produire une parole au timbre naturel.
- Synthèse vocale : la parole synthétisée est générée à l'aide de techniques de traitement numérique du signal pour produire des ondes sonores qui imitent fidèlement la voix humaine. Cela peut reposer sur la concaténation de segments vocaux préenregistrés, la génération de parole de novo par synthèse paramétrique, ou l'utilisation de modèles génératifs à base de réseaux de neurones.
Perspectives d'avenir pour le NLP et les LLM
Quel sera l'avenir du traitement du langage naturel et des grands modèles de langage ? Compte tenu de la cadence fulgurante des progrès enregistrés au cours des dernières décennies, il est difficile de faire des prédictions. Certains des outils les plus récents, comme ChatGPT et Microsoft Copilot, exercent déjà une influence considérable dans le monde professionnel, dans les écoles et ailleurs.
De nombreux programmes intègrent désormais l'IA directement dans leurs applications, une caractéristique appelée à se développer à mesure que la technologie de l'IA progresse. L'IA a également été intégrée aux moteurs de recherche comme Bing et Microsoft Edge. Microsoft et Google ont tous deux introduit l'IA dans leurs logiciels bureautiques. Par exemple, Copilot offrira des fonctionnalités avancées pour résumer des documents, insérer des animations dans les diapositives PowerPoint et composer des récits dans Word. Il est commercialisé comme un outil destiné à améliorer l'efficacité des employés en automatisant des tâches chronophages telles que la rédaction ou la lecture de longs courriels, ou la synthèse de jeux de données dans Excel.
De manière comparable, Google teste l'intégration de l'IA au sein de ses applications Workspace. L'outil de Google, baptisé Gemini, est conçu pour remplir bon nombre des mêmes fonctionnalités que le Copilot de Microsoft. Le programme fait appel à l'apprentissage automatique pour rédiger des courriels, concevoir des ébauches de documents et résumer les tendances de données, parmi bien d'autres fonctions. Gardez à l'esprit qu'à mesure que l'IA poursuit son évolution, les pouvoirs publics chercheront à réglementer son utilisation et ses applications.
Tant pour Microsoft que pour Google, l'objectif est d'exploiter la technologie de l'IA afin d'accroître la productivité des employés. L'automatisation des tâches de routine et répétitives peut libérer du temps pour que les salariés se consacrent à des missions plus prioritaires et porteuses d'impact, contribuant ainsi de façon plus significative à leur entreprise. Nous pouvons nous attendre à voir l'IA s'immiscer de plus en plus dans ces programmes et dans d'autres au fil du temps. Il y aura sans nul doute des avancées dans les modèles d'apprentissage profond, conduisant à une meilleure reconnaissance et analyse d'images, à une génération de contenu plus réaliste (art, musique, voix, etc.) et à des interactions plus sophistiquées avec les utilisateurs par le biais de modèles de langage naturel. Il existe déjà des chaînes d'information entièrement générées par l'IA !
En outre, les applications de NLP auront un impact immense sur l'éducation (education). Les établissements d'enseignement supérieur se demandent déjà quelle posture adopter face à des outils comme ChatGPT dans les salles de classe. De la même façon que les calculatrices de poche ont révolutionné le programme de mathématiques, incitant les enseignants à délaisser les calculs manuels fastidieux au profit de connaissances conceptuelles et de compétences en résolution de problèmes, les grands modèles de langage comme ChatGPT contraindront les enseignants à repenser la finalité de la rédaction de dissertations. Les étudiants d'un cours de littérature utiliseront-ils un modèle de NLP pour résumer l'intrigue, les thèmes et les figures de style du Hamlet de Shakespeare sans même avoir besoin de lire la pièce ? Si tel est le cas, les pédagogues devront trouver d'autres manières de susciter l'intérêt de leurs étudiants. Le devoir consistera peut-être à utiliser un modèle de NLP pour créer un clip vidéo musical contemporain inspiré de la mort mystérieuse d'Ophélie (un personnage de Hamlet) ; une compréhension approfondie de la pièce demeurerait indispensable pour que l'étudiant soit en mesure d'évaluer si l'IA a fait du bon travail ou non.
L'IA pourrait également servir à la formation des futurs enseignants. Imaginez une interaction avec un modèle de NLP simulant un élève de sixième atteint d'un trouble du déficit de l'attention avec hyperactivité (TDAH). Le futur enseignant acquerrait ainsi une expérience précieuse face à différents profils de personnalité avant même de se retrouver dans une véritable salle de classe.
Nous constatons déjà l'utilisation d'outils d'IA comme tuteurs avancés en sciences, en mathématiques, en informatique et en ingénierie. Par exemple, Socratic (développé par Google) est une application mobile qui fournit des explications et des résolutions étape par étape à des exercices scolaires dans diverses matières, en tirant parti de puissants modèles d'IA. L'usage de l'IA, tant pour aider les étudiants à résoudre des problèmes que pour concevoir des contenus pédagogiques (y compris former les futurs scientifiques des données, qui utiliseront eux-mêmes l'IA !), offre plusieurs atouts. Les modèles de traitement du langage naturel peuvent générer efficacement des contenus de grande qualité, couvrant un large éventail de sujets et délivrant des explications claires et compréhensibles pour les apprenants. Considérez l'IA comme un multiplicateur de force, déchargeant les auteurs et enseignants humains pour leur permettre de se concentrer sur l'essentiel. Cependant, il est primordial de garder à l'esprit que même si les modèles de NLP sont capables de générer des contenus, ils ne restent que des outils conçus par des humains. Par conséquent, il incombe aux enseignants et aux créateurs de contenus de veiller à ce que les éléments générés soient exacts, stimulants, actualisés et alignés avec les objectifs d'apprentissage du cours ou du manuel.
ChatGPT et considérations éthiques liées à l'utilisation du NLP
Dans les sections précédentes, nous avons présenté le puissant modèle de traitement du langage naturel ChatGPT. Bien que les questions éthiques doivent être prises en compte tout au long du processus de la science des données (et soient abordées de manière approfondie dans L'éthique tout au long du cycle de la science des données), le NLP et les grands modèles de langage soulèvent des préoccupations éthiques qui leur sont propres.
Comme indiqué précédemment, la version actuelle de ChatGPT repose principalement sur le modèle Transformer, une architecture d'apprentissage profond qui intègre un mécanisme d'auto-attention. Alors que des modèles plus simples comme les réseaux de neurones récurrents et les réseaux à mémoire court et long terme ne disposent que de structures de mémoire rudimentaires, le modèle Transformer s'appuie sur un système de mémoire interne hautement élaboré, capable de saisir des dépendances à longue portée et à grande échelle dans les données d'entrée. Ces modèles sont entraînés sur de gigantesques volumes de données textuelles au moyen de techniques d'apprentissage non supervisé, ce qui leur permet de générer des textes proches de ceux écrits par un humain et d'effectuer des tâches variées de traitement du langage naturel.
Les principales composantes des modèles de NLP sont les suivantes :
- Tokenisation : processus consistant à découper un texte en unités plus petites, telles que des mots ou des sous-mots, afin de pouvoir analyser la structure et le sens du texte d'entrée.
- Plongements lexicaux (word embeddings) : les mots sont convertis en vecteurs numériques appelés plongements lexicaux. Ces vecteurs représentent le sens des mots au sein d'un espace de grande dimension, permettant une compréhension fine des relations sémantiques entre les mots.
- Compréhension contextuelle : le sens des mots et des expressions individuels est analysé dans le contexte global de l'ensemble d'une conversation, plutôt que de se fier uniquement aux mots immédiatement voisins.
- Boucle de rétroaction : à mesure que les utilisateurs interagissent avec un LLM et évaluent ses réponses, le modèle peut apprendre continuellement et se perfectionner avec le temps.
Protections des artistes et de leur propriété intellectuelle
Les modèles de NLP avancés (advanced NLP models) tels que ChatGPT, DALL-E, Lyria et bien d'autres actuellement disponibles ouvrent des perspectives extraordinaires tout en soulevant de graves questions éthiques. L'utilisation de ces modèles suscite des inquiétudes quant aux mesures de protection appropriées pour les artistes humains et leurs créations. L'une des préoccupations majeures réside dans la façon dont ces modèles sont entraînés. En pratique, tout ce qui est accessible sur Internet est susceptible de servir de donnée d'entrée pour entraîner un modèle de NLP. Cela englobe des textes originaux, des œuvres d'art et des compositions musicales créés par des humains. Que l'œuvre d'origine soit protégée par le droit d'auteur ou non, un modèle de NLP peut y avoir accès et être entraîné à en reproduire le style ou l'essence.
Grâce à la faculté de générer d'immenses quantités de contenus en très peu de temps, il existe un risque majeur de déprécier le travail des créateurs humains et d'exacerber les litiges liés à la contrefaçon du droit d'auteur et aux droits de propriété intellectuelle. C'est pourquoi il est impératif d'établir des directives claires et des réglementations pour protéger les droits des artistes humains et garantir une rémunération équitable de leur travail. De surcroît, le déploiement de ChatGPT et de modèles comparables dans la création de contenu devrait s'accompagner de pratiques transparentes de divulgation et d'attribution pour distinguer nettement les contenus générés par l'IA des œuvres créées par des humains.
L'industrie cinématographique (film industry), en particulier, a été à la fois transformée et bouleversée par l'IA générative, qui ouvre de nouvelles perspectives pour la création cinématographique tout en suscitant de vives inquiétudes quant aux risques de violation du droit d'auteur, de suppression d'emplois et d'atteintes à la confidentialité des données. Durant l'été 2023, la Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) et la Writers Guild se sont mises en grève contre l'Alliance of Motion Pictures and Television Producers (AMPTP). L'AMPTP regroupe les cinq grands studios de cinéma américains ainsi qu'Amazon, Netflix et Apple. Ces grèves, qui ont duré respectivement quatre et cinq mois, ont mis en évidence l'impératif de protéger les adhérents des syndicats contre les menaces potentielles pesant sur les moyens de subsistance des scénaristes si les studios venaient à remplacer leurs postes par l'IA générative (IAG), ainsi que la nécessité de protéger l'identité et l'« image » des acteurs et des figurants contre toute recréation numérique effectuée sans leur consentement. Les accords historiques négociés entre les syndicats et les studios ont instauré ce qu'un observateur a qualifié de « protections contre l'IA les plus progressistes de l'histoire du secteur » (Luna & Draper, 2023).
Divulgation et attribution
Le déploiement de ChatGPT et de modèles d'IA similaires dans la création de contenu exige des pratiques transparentes de divulgation et d'attribution pour garantir la clarté et la responsabilité quant à l'origine du contenu généré. La divulgation transparente consiste à indiquer clairement lorsqu'un contenu a été produit par un modèle d'IA plutôt que rédigé par un être humain. Cette transparence aide les utilisateurs à cerner la nature du contenu avec lequel ils interagissent et à ajuster leurs attentes en conséquence.
Les pratiques d'attribution consistent à créditer les sources ou les créateurs légitimes d'un contenu, qu'ils soient humains ou issus d'une IA. Dans le cadre de ChatGPT, ces pratiques peuvent consister à mentionner l'aide apportée par l'IA lors de la création du contenu et à reconnaître l'apport du modèle sous-jacent. Cela contribue à préserver la transparence et l'intégrité des processus de production tout en respectant le travail des créateurs humains.
À l'heure actuelle, les pratiques de divulgation et d'attribution applicables à ChatGPT et aux modèles similaires varient selon les cas d'usage et les plateformes sur lesquelles le modèle est déployé. Certaines plateformes affichent des mentions d'avertissement ou des libellés précisant que le contenu a été généré par un modèle d'IA, tandis que d'autres ne fournissent aucune indication explicite. Par ailleurs, attribuer un contenu généré par IA à des modèles ou à des algorithmes précis peut s'avérer complexe, car le processus de génération fait fréquemment intervenir des interactions intriquées entre plusieurs composants et jeux de données.
À l'avenir, il sera nécessaire d'établir des normes harmonisées et de bonnes pratiques relatives à la divulgation et à l'attribution des contenus générés par l'IA. Cela comprend la définition de règles claires pour étiqueter les contenus produits par l'IA, la détermination de mécanismes d'attribution adéquats, et la promotion de la transparence et de la responsabilité dans la création de contenus assistée par IA. Ce sujet sera développé plus en détail dans L'éthique tout au long du cycle de la science des données.
Limites du NLP
Observez attentivement la « photo » d'une musicienne jouant de la contrebasse sur la Figure 7.15. Remarquez-vous quelque chose d'étrange ? Tout d'abord, l'instrument semble flotter devant la musicienne (ou bien la tient-elle en équilibre grâce à une sorte de poignée dépassant du manche ?). Le nombre de cordes est insuffisant (il devrait y en avoir quatre). Même les mécaniques (les chevilles d'accordage situées sur le cheviller, à l'extrémité supérieure de l'instrument) présentent des anomalies : trois d'entre elles semblent visibles d'un seul côté, certaines clés étant absentes ou mal formées. Un autre détail physiologique que les images générées par IA peinent souvent à représenter fidèlement sont les mains, qui comportent parfois des doigts manquants ou déformés (comme sur la main gauche de la musicienne sur la Figure 7.15).
Ces imperfections dans les détails sont très fréquentes dans les créations générées par IA. Divers facteurs en sont la cause, notamment le manque de données d'entraînement adéquates, des biais inhérents, un manque de diversité lors de l'apprentissage, la complexité des objets représentés dans l'image, et la propension du modèle d'IA à privilégier le style général et la composition au détriment de la précision des détails. C'est ce qu'on appelle parfois le « problème des doigts », l'IA rencontrant des difficultés pour reproduire le nombre exact de doigts sur une main humaine (bien que, sur la Figure 7.15, le bon nombre de doigts semble visible).
Un autre écueil qui affecte les LLM réside dans les hallucinations, qui sont des réponses produites dépourvues de tout fondement factuel. Les hallucinations d'IA sont pour l'essentiel des réponses inventées de toutes pièces qui semblent répondre à l'invite, mais qui s'avèrent inexactes, trompeuses ou hors de propos. Comme tout ce qu'un LLM génère est, dans un sens, « inventé », le modèle ne peut pas déceler facilement le moment où il produit une hallucination. Imaginez que vous demandiez à un enfant de cinq ans comment fonctionne une voiture. Il pourrait vous répondre qu'un bruyant troll vit sous le capot et fait tourner les roues à la main en buvant l'essence que ses parents lui versent régulièrement. Faute d'explication réelle, cette réponse paraît tout à fait plausible à l'enfant.
Enfin, il convient de souligner qu'un modèle d'IA ne vaut que par les données d'entraînement qui lui sont fournies. Malgré les progrès spectaculaires des modèles de NLP et des LLM, une préoccupation majeure réside dans le potentiel de biais (potential for bias) et de traitement inéquitable imputable à des anomalies imprévues dans les données d'entraînement. Les systèmes d'IA, y compris ChatGPT, peuvent involontairement perpétuer des stéréotypes ou accentuer les biais sociétaux préexistants dans les données d'apprentissage. En outre, des modèles de NLP tels que ChatGPT peuvent peiner à comprendre et à générer des réponses adaptées au contexte, conduisant à des cas de désinformation ou à la production de contenus inappropriés.
L'excès de confiance envers les LLM dans la génération de contenu suscite également des craintes, risquant d'entraîner une perte de diversité des perspectives ou d'ignorer les nuances d'un sujet donné. En un certain sens, un LLM entièrement entraîné produit une sorte de moyenne : il assimile les créations humaines les plus remarquables, rares, créatives, surprenantes ou singulières et les amalgame à la masse colossale de données d'entrée banales et répétitives pour aboutir à une réponse convenue et sans relief.
Pour aller plus loin
Biais et éthique dans l'IA
Il est crucial de comprendre les répercussions des biais dans les modèles d'apprentissage profond et d'IA, particulièrement dans des domaines sensibles tels que le recrutement, la finance et le maintien de l'ordre. Les biais dans l'IA peuvent aboutir à des décisions inéquitables et perpétuer les disparités sociales existantes. L'article « Using Python to Mitigate Bias and Discrimination in Machine Learning Models » offre un guide pratique pour aborder ces enjeux. Il montre comment des bibliothèques Python telles que HolisticAI, Scikit-Learn et Matplotlib peuvent être employées pour identifier et atténuer les biais dans les modèles d'apprentissage automatique. Cette démarche suppose d'évaluer les performances du modèle selon différents groupes démographiques et d'appliquer des techniques assurant un traitement équitable et des résultats impartiaux.
« The Ethical AI Libraries That Are Critical for Every Data Scientist to Know » présente diverses autres bibliothèques conçues pour renforcer les pratiques éthiques dans le développement de l'IA, à l'image d'AI Fairness 360 d'IBM, de What-If Tool de Google et de Fairlearn de Microsoft. Chaque outil offre des caractéristiques spécifiques pour repérer, évaluer et corriger les biais présents dans les jeux de données et les modèles.
Utilisations malveillantes de l'IA
La protection de la vie privée des utilisateurs, la sécurité des données, les risques de violation du droit d'auteur et la dévalorisation des créations humaines ne représentent que la partie émergée de l'iceberg ; les hallucinations, les biais et le manque de représentativité dans les données d'entraînement sont des sources fréquentes d'erreurs. Bien plus inquiétantes encore que ces inexactitudes involontaires sont les utilisations malveillantes de l'IA visant délibérément à tromper autrui.
Les hypertrucages (deepfakes) sont des réalisations issues de systèmes d'IA qui paraissent authentiques et dont le but est d'induire le public en erreur. Par exemple, en janvier 2024, plusieurs résidents du New Hampshire ont reçu un appel automatisé diffusant un enregistrement téléphonique qui imitait la voix du président Biden et incitait les électeurs à ne pas voter lors de l'élection primaire présidentielle démocrate. Il a été établi plus tard que cet enregistrement avait été produit par IA à l'initiative d'une personne liée à l'un des rivaux de Biden dans cette primaire.
Des vidéos hypertruquées ont servi à fabriquer de faux soutiens de célébrités, à diffuser de la propagande politique ou à créer des images illicites au réalisme trompeur, soulignant la nécessité urgente de cadres juridiques et réglementaires pour contrer l'usage abusif de contenus générés par IA.
Afin de répondre aux inquiétudes suscitées par l'utilisation malveillante de l'IA, les entreprises technologiques et diverses organisations promeuvent désormais l'idéal d'une IA responsable (responsible AI), qui renvoie à une conception et un déploiement éthiques et socialement conscients des systèmes d'intelligence artificielle. Elle regroupe un ensemble de principes, de pratiques et de lignes directrices visant à garantir que les technologies d'IA soient développées et utilisées de manière équitable, transparente, responsable et bénéfique pour la société.
Les aspects essentiels de l'IA responsable comprennent les considérations éthiques, la transparence, la responsabilité, l'équité et l'atténuation des biais, la sécurité des données, les répercussions sociétales et environnementales, ainsi que des principes de conception centrés sur l'humain — autant de thématiques que nous approfondirons dans L'éthique tout au long du cycle de la science des données. L'objectif fondamental de l'IA responsable est d'encourager la conception et le déploiement de technologies d'IA en accord avec les valeurs humaines, respectueuses des droits fondamentaux et participant à un avenir plus juste et durable.
Jeux de données
Remarque : Les principaux jeux de données mentionnés dans le code de ce chapitre peuvent également être téléchargés ici.