Développement de technologies fondamentales

Nous avons vu comment des technologies fondamentales comme l'intelligence artificielle, les algorithmes et les modèles mathématiques permettent des applications importantes en science des données (data science), en science computationnelle (computational science) et en science de l'information (information science).

Comme mentionné précédemment, l'intelligence artificielle (artificial intelligence) (IA) est le développement de fonctions informatiques pour effectuer des tâches, telles que la perception visuelle et les processus de prise de décision, qui sont généralement effectuées par l'intelligence humaine. L'IA fait référence à un sous-domaine de l'informatique qui s'intéresse à la résolution de problèmes nécessitant l'application de l'apprentissage automatique (machine learning) aux processus cognitifs humains pour atteindre des objectifs. La recherche en IA vise à développer des architectures d'algorithmes (algorithm) capables de progresser vers la résolution de problèmes. Un exemple est la reconnaissance d'images (image recognition), ou le problème d'identification d'objets dans une image. Ce problème est assez difficile à résoudre pour les programmeurs utilisant des méthodes de programmation traditionnelles. Imaginez devoir définir des règles ou des instructions très précises qui pourraient identifier un objet dans une image quelle que soit sa position, sa taille, les conditions d'éclairage ou la perspective. En tant qu'humains, nous avons un sens intuitif des qualités d'un objet. Cependant, représenter cette intelligence humaine dans une machine nécessitant des règles ou des instructions strictes est une tâche beaucoup plus difficile. Les méthodes d'IA pour la reconnaissance d'images impliquent la conception d'architectures d'algorithmes capables de généraliser toutes les manières possibles dont un objet peut apparaître dans une image.

Les approches récentes de l'IA pour la reconnaissance d'images s'appuient sur une famille de méthodes appelées réseaux de neurones au lieu de demander aux programmeurs de créer manuellement des règles ou des instructions pour former un algorithme. Chez l'homme, le réseau de neurones est un réseau complexe dans le cerveau humain qui se compose de neurones, ou cellules nerveuses, connectés par des synapses qui envoient des messages et des signaux électriques à toutes les parties du corps, nous permettant de penser, de bouger, de ressentir et de fonctionner.

En informatique (computer science), un réseau de neurones (neural network) (Voir Figure 1.9) est une architecture d'algorithme d'IA qui met l'accent sur les connexions entre des cellules nerveuses artificielles dont le comportement et les valeurs changent en réponse à un stimulus ou une entrée. Ces réseaux de neurones ne sont pas définis par des neurones individuels mais par la combinaison de tous les neurones du réseau. Typiquement, les neurones artificiels sont arrangés en une hiérarchie qui vise à capturer la structure d'une image. Bien que le premier niveau de neurones puisse répondre à des pixels individuels, les niveaux ultérieurs de neurones artificiels pourraient répondre de manière agrégée à l'arrangement de plusieurs neurones artificiels dans la couche précédente. Ceci est similaire à la façon dont le système visuel humain répond aux bords aux niveaux inférieurs, puis répond de manière agrégée à l'arrangement spécifique de plusieurs bords aux niveaux ultérieurs, et identifie finalement ces arrangements agrégés comme des objets.

Figure 1.9 (a) Un réseau de neurones artificiel se compose de trois couches clés : la couche d'entrée, où les données brutes entrent dans le système ; la couche cachée, où les informations sont traitées et les motifs identifiés ; et la couche de sortie, où les résultats sont présentés. (b) Un réseau de neurones naturel, tel que ceux du corps humain, reflète cette structure. La couche d'entrée représente les récepteurs sensoriels, comme ceux de la rétine. La couche cachée correspond à la synapse, où un traitement partiel des données sensorielles a lieu. Enfin, la couche de sortie représente les informations envoyées au cerveau pour le traitement et l'interprétation finaux. (credit a: modification of "Neural network example" by Wiso/Wikipedia, Public Domain; credit b: modification of work from Psychology 2e. attribution: Copyright Rice University, OpenStax, under CC BY 4.0 license)

L'idée des réseaux de neurones, cependant, n'est pas aussi nouvelle qu'il n'y paraît. Les réseaux de neurones artificiels ont été imaginés pour la première fois au milieu des années 1900, parallèlement aux efforts de recherche contemporains en sciences cognitives. Les idées de réseaux de neurones hiérarchiques multicouches et les méthodes d'optimisation mathématique pour l'apprentissage étaient toutes là, mais ces premiers efforts étaient limités par la puissance de traitement computationnel disponible à l'époque. De plus, les grands ensembles de données qui alimentent l'apprentissage des réseaux de neurones n'étaient pas aussi disponibles qu'aujourd'hui avec Internet. Les développements des technologies fondamentales telles que l'architecture informatique et les réseaux informatiques ont ouvert la voie aux développements plus récents des technologies de réseaux de neurones. Le vaste domaine des systèmes informatiques étudie ces architectures et réseaux qui permettent de nouveaux algorithmes et logiciels (software). Sans ces technologies, les réseaux de neurones ne seraient pas aussi populaires et révolutionnaires qu'ils le sont aujourd'hui. Pourtant, la relation entre les systèmes informatiques et le développement de l'IA n'est pas unidirectionnelle. Aujourd'hui, les informaticiens utilisent les réseaux de neurones pour aider à concevoir de nouveaux systèmes informatiques plus efficaces. Le développement de technologies informatiques fondamentales crée non seulement des opportunités d'applications directes et indirectes, mais soutient également le développement d'autres technologies informatiques.

Tout comme nous avons vu comment les solutions technologiques incarnaient une croyance puissante sur la relation entre les solutions informatiques et le bien social, une croyance culturelle similaire existe concernant la relation entre les technologies fondamentales et leurs valeurs sociales. La croyance selon laquelle les technologies sont intrinsèquement neutres et que ce sont les personnes qui utilisent la technologie qui la rendent finalement « bonne » ou « mauvaise » est considérée comme la détermination sociale de la technologie (social determination of technology).

Les réseaux de neurones d'aujourd'hui sont conçus pour identifier des motifs et reproduire des données existantes. Il est largement admis que de nombreux grands ensembles de données peuvent encoder des préférences et des valeurs sociales, en particulier lorsque les données sont collectées auprès des utilisateurs sur Internet. Une détermination sociale de la technologie accepte cette explication du biais de l'IA et laisse la conception des algorithmes et techniques d'IA comme neutre : le biais dans un système d'IA est attribué aux valeurs sociales des données plutôt qu'à la conception des algorithmes d'IA. Les critiques de la détermination sociale soulignent que la manière dont les algorithmes d'IA apprennent des mégadonnées représente une valeur sociale, une valeur qui encode une préférence par défaut pour la reproduction des biais inhérents aux mégadonnées. Cela s'applique que l'application d'IA concerne le logement équitable, l'imagerie médicale, le ciblage publicitaire, les frappes de drones ou un autre sujet. C'est un problème que les informaticiens doivent prendre en compte lorsqu'ils pratiquent l'informatique (computing) responsable et s'efforcent de garantir que les données sont collectées et traitées de la manière la plus éthique possible.

Évaluation des conséquences négatives de la technologie

Les technologies d'IA actuelles fonctionnent en reproduisant des motifs existants plutôt qu'en imaginant des futurs radicalement différents. Autant les réseaux de neurones sont inspirés du cerveau humain, autant il serait exagéré de suggérer que les systèmes d'IA ont une quelconque ressemblance avec une intelligence générale. Bien que ces systèmes puissent être très efficaces pour identifier les plants de laitue des mauvaises herbes dans une image, leur capacité d'intelligence humaine est limitée par leur conception. Un réseau de neurones (neural network) apprend à reconnaître des motifs similaires qui apparaissent sur des millions ou des milliards d'images d'échantillon et représente ces motifs avec des millions ou des milliards de nombres. Des méthodes d'optimisation mathématique sont utilisées pour choisir les valeurs numériques qui encodent le mieux les corrélations entre les images d'échantillon. Cependant, les approches actuelles manquent d'une représentation conceptuelle plus profonde des objets. Une critique des très grands réseaux de neurones est qu'il y a souvent plus de valeurs numériques que d'images d'échantillon – le réseau peut effectivement mémoriser les détails d'un million d'images d'échantillon en les encodant dans un milliard de nombres. De nombreux réseaux de neurones actuels reconnaissent les objets dans les images non pas en se basant sur une idée ou un concept intrinsèque des objets, mais en mémorisant chaque configuration de bords telle qu'elle apparaît dans les images d'échantillon.

Cette limitation peut entraîner des résultats particuliers pour les systèmes de reconnaissance d'images (image recognition). Souvent, les approches de réseaux de neurones pour la reconnaissance d'images ont certains exemples d'images où les objets sont mal identifiés de manière inhabituelle : un visage humain pourrait être reconnu dans un morceau de pain grillé ou dans un amas de nuages dans le ciel. Dans ces exemples, le motif des bords pourrait par coïncidence déclencher les valeurs du réseau de neurones de sorte qu'il identifie mal les objets. Ce sont là quelques-uns des exemples les plus compréhensibles par l'homme ; il existe de nombreuses autres situations étranges qui sont moins explicables. Une attaque adversaire (adversarial attack) est une entrée d'échantillon conçue pour amener un système à se comporter de manière problématique. Les chercheurs ont découvert que même le fait de modifier la couleur d'un seul point dans une image peut provoquer une réaction en chaîne dans le réseau de neurones, l'amenant à mal identifier les objets de manière totalement erronée. L'adversaire peut choisir la couleur du point de manière à contrôler presque entièrement la sortie de certains réseaux de neurones : changer un seul point spécifique dans l'image d'un chien pourrait amener le système à reconnaître l'objet comme une voiture, un avion, un humain ou presque tout ce que l'adversaire désire. De plus, ces attaques adversaires peuvent souvent être conçues pour amener le réseau de neurones (neural network) à signaler une confiance extrêmement élevée dans ses mauvaises réponses. Les voitures autonomes qui utilisent des réseaux de neurones pour la reconnaissance d'images peuvent être exposées à des attaques adversaires réelles lorsque des autocollants spécialement conçus sont placés sur des panneaux, ce qui amène le système à reconnaître un feu rouge comme un feu vert (Voir Figure 1.10). En étudiant les attaques adversaires, les chercheurs peuvent concevoir des réseaux de neurones plus robustes et résilients à ces attaques.

Figure 1.10 (a) Les fonctions de pilote automatique des voitures autonomes identifient généralement les routes et les voies à l'aide de l'intelligence artificielle pour « voir » les marquages routiers. (b) Des chercheurs ont réussi à tromper ces voitures en leur faisant « voir » de nouvelles voies en utilisant aussi peu que trois petits autocollants, afin de perturber les réseaux de neurones et de forcer les voitures à changer de voie. (attribution: Copyright Rice University, OpenStax, under CC BY 4.0 license)

En général, la recherche est une partie importante de l'informatique (computer science). Grâce à la recherche, les informaticiens analysent les façons dont la technologie peut être utilisée et obtiennent des informations et des réponses pour résoudre des problèmes et améliorer divers aspects de la société. La recherche permet aux informaticiens de faire des avancées telles que la conception de nouveaux algorithmes, le développement de nouveaux matériels (hardware) et logiciels (software), et des applications pour les technologies émergentes telles que l'IA.

Une utilisation importante de la recherche est d'étudier les attaques adversaires pour recueillir les réponses nécessaires aux informaticiens afin d'améliorer les technologies fondamentales en évaluant les conséquences négatives des technologies. Les technologies informatiques offrent un moyen unique d'apprendre des choses, de se connecter les uns aux autres et d'améliorer la vie des gens partout dans le monde. Pourtant, dans chacun de ces exemples, nous avons également soulevé des préoccupations quant à la manière dont ces technologies se sont développées et ont affecté la vie des gens de manière à la fois positive et négative. Bien que nous puissions rarement, voire jamais, qualifier une technologie de purement « bonne » ou « mauvaise », les informaticiens s'intéressent à l'étude des questions concernant la manière dont les technologies sont conçues pour centrer les valeurs sociales. Les spécialistes des sciences sociales ne sont pas les seuls responsables de la réponse aux questions sur la technologie, mais les informaticiens peuvent également apporter des connaissances et des méthodes importantes pour comprendre les technologies informatiques.

Concevoir des technologies pour le bien social

L'informatique peut faire progresser le bien social en bénéficiant à de nombreuses personnes dans de nombreux domaines différents, notamment la santé publique, la durabilité agricole, la durabilité climatique et l'éducation.

Les technologies informatiques accélèrent les traitements médicaux pour la santé publique et personnelle, de la recherche et développement initiales aux essais cliniques, en passant par la production et la distribution à grande échelle. En janvier 2020, les autorités chinoises ont publié la séquence génétique du coronavirus SARS-CoV-2. Cela a aidé les entreprises pharmaceutiques à commencer à développer des vaccins potentiels contre le virus à un rythme significativement plus rapide que pour tout autre virus par le passé (Voir Figure 1.11).

Figure 1.11 L'épidémie de SARS-CoV-2 qui a débuté en 2020 a montré à quelle vitesse l'informatique pouvait être exploitée par les gouvernements, les établissements médicaux et les scientifiques pour décoder le virus, développer des traitements et distribuer des vaccins dans le monde entier. Ce qui aurait été une tâche très difficile à gérer manuellement a été simplifié grâce à l'utilisation d'algorithmes et de la technologie informatique. (credit left: modification of "COVID-19 vaccines" by Agência Brasília/Flickr, CC BY 2.0; credit center: modification of "T04" by Sarah Taylor/Flickr, CC BY 2.0; credit right: modification of “Back2School Brigade prepares families for upcoming school year” by Thomas Karol/DVIDS, Public Domain)

La science computationnelle permet les miracles de la médecine moderne. Les séquences virales peuvent être numérisées et rapidement partagées entre chercheurs du monde entier via Internet. Les algorithmes et modèles informatiques peuvent simuler les réponses du système immunitaire (immune system) humain à des traitements particuliers en quelques heures plutôt qu'en années. Les premiers traitements peuvent ensuite être produits à petite échelle à l'aide de cellules conçues par ordinateur en moins d'un mois à partir du séquençage initial. Pour garantir que les traitements sont sûrs et efficaces, des essais cliniques sont menés dans des « points chauds » de transmission de maladies prédits à l'aide de méthodes de science des données (data science) s'appuyant sur des données agrégées et surveillées du monde entier. Une fois qu'un traitement est prouvé sûr et efficace, il est produit en masse à l'aide de robots contrôlés par ordinateur et de chaînes d'assemblage automatisées. Les algorithmes gèrent l'approvisionnement et la demande des stocks et contrôlent le transport des traitements par camions et avions guidés par des systèmes de navigation informatique. Des applications et services web informent les gens tout au long du processus.

Pourtant, l'utilisation de la technologie informatique dans toute la médecine moderne est tout sauf politiquement neutre. Les ordinateurs, les algorithmes et les modèles mathématiques résolvent les problèmes que leurs créateurs souhaitent résoudre et encodent les hypothèses de leurs populations cibles. Les données d'offre et de demande pour les modèles de données sont déterminées par divers facteurs, au moins en partie en réponse à l'argent et aux relations entre les pays qui contrôlent la technologie, le Nord global, et les pays qui ne le font pas, le Sud global. Au sein des communautés locales, l'adoption des traitements médicaux est souvent inéquitable, reflétant et renforçant les inégalités et les disparités historiques en matière de santé publique. La technologie informatique seule ne résout souvent pas ces problèmes. En fait, sans que les gens ne réfléchissent à ces problèmes, les technologies informatiques peuvent souvent amplifier les disparités. Considérez les ensembles de données, qui peuvent être biaisés s'ils surreprésentent ou sous-représentent des groupes de personnes spécifiques. Si des décisions sont prises sur la base de données biaisées, les personnes des groupes qui ne sont pas représentées équitablement peuvent recevoir un traitement inéquitable. Par exemple, si une agence gouvernementale locale travaille avec un ensemble de données biaisé, les dirigeants politiques peuvent prendre des décisions qui entraînent un financement ou des services inadéquats pour certains citoyens. C'est un exemple de l'importance de l'informatique (computing) responsable, que nous aborderons au Chapitre 14 Qualités des cyber-ressources et gouvernance de la cyber-informatique.

Ces histoires problématiques ne sont pas seulement aggravées en médecine et en santé publique, mais aussi reflétées dans le logement. Le redlining fait référence à l'accès inéquitable aux services publics de base en fonction des quartiers et des communautés des résidents, ce qui inclut la pratique de refuser des services financiers aux zones avec une grande population sous-représentée. Aux États-Unis, ces communautés reflètent les histoires de ségrégation raciale et d'inégalités de richesse raciales. Les lois sur le logement équitable visent à empêcher les propriétaires de discriminer les acheteurs ou les locataires en raison de la race, de la couleur, des capacités, de l'origine nationale et d'autres catégories protégées. Mais les technologies informatiques présentent également de nouveaux types de défis. Les publicités micro-ciblées sur les plateformes de médias sociaux contribuent non seulement à la polarisation politique, mais aussi à la discrimination dans le logement. Cela peut être un problème particulier lorsqu'il est combiné au redlining. Même si le ciblage publicitaire n'est pas explicitement conçu pour discriminer, les publicités micro-ciblées peuvent toujours renforcer le redlining historique en incorporant des données telles que les codes postaux ou les quartiers. Cela peut entraîner un redlining numérique, qui est la pratique consistant à utiliser la technologie, telle que les publicités ciblées, pour promouvoir la discrimination. En 2021, un utilisateur de Facebook a intenté un recours collectif arguant que neuf entreprises de la région de Washington, D.C., avaient délibérément exclu les personnes de plus de 50 ans de la visualisation de leurs publicités de logement parce qu'elles voulaient attirer des personnes plus jeunes à vivre dans leurs appartements.16 C'est un exemple de problème technologique qui devrait être abordé par l'informatique responsable en mettant l'accent sur le comportement éthique.

Avec de bonnes intentions et une attention aux biais personnels, les technologies peuvent être conçues pour le bien social. Par exemple, un algorithme (algorithm) hypothétique pour le logement équitable pourrait distribuer uniformément de nouveaux logements aux personnes appartenant à des catégories protégées et à des identités marginalisées, telles que les populations âgées. Bien sûr, le contrôle algorithmique et la prise de décision automatisée sont mis au défi de considérer les conditions sous-jacentes aux problèmes sociaux. Néanmoins, les algorithmes peuvent être des outils importants pour nous permettre de distribuer les résultats plus équitablement d'un point de vue statistique, et cela peut être une étape importante pour aborder les systèmes sociétaux plus larges et les inégalités qui produisent des problèmes sociaux.

Dans le cadre de l'informatique (computing) responsable, les informaticiens doivent être conscients de la solution technologique (technological fix), qui fait référence à l'idée que les technologies peuvent résoudre les problèmes sociaux, mais est maintenant souvent utilisée pour critiquer la foi aveugle dans les solutions technologiques aux problèmes humains. À moins que le processus ne soit géré de manière responsable, la « solution » peut causer plus de problèmes qu'elle n'en résout. Lorsqu'ils envisagent comment aborder les problèmes sociaux et politiques, les informaticiens doivent veiller à choisir la technologie appropriée pour résoudre des problèmes spécifiques.

Pour aborder les problèmes sociaux et faire progresser le bien social, rappelez-vous que l'informatique centrée sur l'humain met l'accent sur les personnes plutôt que sur les technologies dans la conception de solutions informatiques. Une approche centrée sur l'humain pour le logement équitable pourrait commencer par centrer les communautés locales directement affectées par le redlining. Plutôt que de remplacer ou de perturber les personnes et les organisations qui travaillent déjà sur un problème, une approche centrée sur l'humain les placerait au centre du processus de conception en tant qu'experts. Une approche centrée sur l'humain exige que le concepteur se demande pourquoi il ne travaille pas déjà avec les personnes de la communauté impactées par son travail.