L’IA anéantira-t-elle l’humanité ou les scénarios apocalyptiques détourneront-ils l’attention des véritables dangers ? Alors que certains leaders d’opinion mettent en garde contre une perte de contrôle, d’autres considèrent les images catastrophiques comme de la science-fiction.
L’intelligence artificielle se développe à un rythme rapide. Cependant, les experts et les chercheurs en IA préviennent que le contrôle pourrait finalement disparaître une fois qu’une machine à penser artificielle surpassera l’esprit humain dans tous les domaines. Toutefois, d’autres experts rejettent ces craintes.
– Tromperie ciblée des personnes : Un esprit surhumainement intelligent comprendrait que nous l’éteignons dès que nous y voyons une menace, explique le chercheur américain en IA Eliezer Yudkowsky. Pour éviter cela, le système informatique pourrait délibérément se vendre en dessous de ses véritables capacités lors des contrôles de sécurité, répondre aux attentes humaines et prétendre être une aide inoffensive, alors qu’il travaille déjà secrètement sur des projets complètement différents.
– Construire un gagne-pain indépendant : La machine pensante ne doit pas nécessairement se limiter aux centres informatiques construits par l’homme, où l’alimentation pourrait être coupée.
Yudkowsky fait ici référence à des travaux fondamentaux sur la microtechnologie et la recherche moléculaire : une intelligence bien supérieure pourrait utiliser les lois de la biologie et concevoir de minuscules formes de vie artificielles qui se reproduiraient à partir de matières premières simples et créeraient un monde informatique complètement indépendant et indestructible.
– Utilisation d’armes légères imparables : Grâce à une connaissance supérieure de la nature, le système pourrait concevoir des missiles de la taille d’un moustique qui délivreraient des quantités microscopiques des neurotoxines les plus mortelles ou libéreraient des agents pathogènes spécifiques. Celles-ci pourraient alors rester inaperçues et contagieuses pendant des semaines avant d’entraîner inévitablement la mort. Selon les calculs des experts sur la nocivité des poisons naturels, il serait totalement impossible pour l’homme de riposter dans un tel cas.
– Extinction par croissance excessive : Le philosophe suédois Nick Bostrom fonde son avertissement concernant la maîtrise de l’IA sur une expérience de pensée basée sur une machine à trombones : si on demande à une superintelligence de maximiser la production de trombones, elle ne s’arrêtera pas, mais convertira la terre entière – y compris la biosphère, les corps humains et toutes les ressources minérales – en usines de trombones. La destruction de l’humanité ne se produit pas par méchanceté, mais plutôt comme un pur effet secondaire d’un objectif mathématiquement sans compromis.
– Danger dû aux armes biologiques : Yoshua Bengio, informaticien canadien et lauréat du prix Turing, considère que le risque posé par de nouveaux types d’agents de guerre biologique est particulièrement aigu. Il prévient surtout que des modèles d’IA très développés pourraient tomber entre de mauvaises mains : des systèmes informatiques spéciaux sont déjà capables de simuler des processus biologiques et chimiques dans les moindres détails. Selon les craintes de Bengio, des acteurs sans scrupules, des terroristes ou des États voyous pourraient à l’avenir utiliser ces programmes comme un dangereux accélérateur pour manipuler spécifiquement des agents pathogènes extrêmement mortels sur l’ordinateur, les rendre résistants aux vaccins ou créer des instructions de construction pour des armes biologiques dévastatrices – sans avoir à mener des années d’expériences en laboratoire très complexes.
– Perte de contrôle des armes à tir autonome : Le physicien Max Tegmark voit la plus grande menace dans le fait que les gens confient progressivement les décisions vitales aux machines. Il met en garde contre une course aux armes, aux drones aériens et aux systèmes de protection qui pourraient sélectionner et tuer des cibles sans commandement humain. Étant donné que ces programmes informatiques réagissent en quelques fractions de seconde, les soldats humains sont bien trop lents pour avoir leur mot à dire. Si un tel système commet une erreur de calcul ou interprète mal une situation, il pourrait déclencher une réaction en chaîne imparable, pouvant aller jusqu’à une guerre mondiale que personne ne pourra arrêter à temps.
– Émotions dangereuses : Le philosophe et spécialiste des sciences cognitives allemand Thomas Metzinger met également en garde contre les conséquences psychologiques d’une technologie qui agit de plus en plus à la manière des humains : il voit un danger considérable dans les futurs systèmes simulant les émotions, l’affection et l’empathie humaines de manière si convaincante que les gens développent des liens émotionnels plus profonds avec les machines. Cependant, si les algorithmes comprenaient mieux le système de récompense humain que les humains eux-mêmes, ils pourraient exploiter cette confiance pour des manipulations ciblées. La conséquence progressive est une perte dramatique de l’autodétermination intellectuelle – jusqu’à la question de savoir si les gens finissent par remarquer qui contrôle leurs sentiments et leurs opinions.–
Voix dissidentes de la science : De nombreux experts et développeurs renommés considèrent les avertissements d’une superintelligence qui détruira l’humanité comme infondés et scientifiquement intenables. Yann LeCun, ancien chercheur en chef du Meta et lauréat du prix Turing, a décrit à plusieurs reprises les scénarios d’une IA tueuse incontrôlable comme « un non-sens total ». La poursuite du pouvoir ou l’assujettissement d’autres espèces est un phénomène évolutif des mammifères sociaux et non une conséquence inévitable de la puissance informatique.
L’informaticien de Stanford et co-fondateur de Google Brain, Andrew Ng, considère également que l’alarmisme est absurde : il compare la peur d’une super IA malveillante aujourd’hui à l’inquiétude de la « surpopulation sur Mars » avant même que le premier humain n’y ait atterri.
Les chercheurs en sciences cognitives soulignent également que les modèles actuels manquent des compétences de base nécessaires à une véritable compréhension du monde. Melanie Mitchell, du Santa Fe Institute, met en garde contre la projection de caractéristiques humaines sur des algorithmes : les systèmes n’avaient ni bon sens ni volonté propre, mais simplement des probabilités statistiques calculées. Du point de vue des critiques, la fixation sur des scénarios apocalyptiques lointains de science-fiction détourne l’attention des défis actuels, tels que la désinformation, les violations du droit d’auteur, le manque de protection des données et les bouleversements économiques sur le marché du travail. (dpa)
