Ces temps-ci, les géants de la techno ne se gênent pas pour nous effrayer… et se déresponsabiliser. Il ne se passe pas un jour sans qu’un de ces millionnaires décomplexés pérore sur le web à propos des risques potentiellement dévastateurs des outils qu’eux-mêmes financent, créent et mettent sur le marché. Ils voudraient nous convaincre de l’inévitabilité de cette prétendue « intelligence artificielle » (IA), comme s’il s’agissait d’un phénomène naturel, comme le retour du printemps.
D’ailleurs, parler d’intelligence joue en leur faveur. La métaphore nous incite à considérer leurs systèmes comme des « êtres » aptes à penser, à décider et même dotés d’une forme de conscience. Cela permet de tenir la technologie pour responsable des méfaits qu’elle engendre, plutôt que les humains qui la façonnent. Car une machine n’est rien sans ceux et celles qui la conçoivent, et ce sont leurs intentions et leurs erreurs qu’elle finit toujours par dévoiler.
En fait, l’expression « intelligence artificielle » est un écran de fumée, car elle nous fait craindre la surpuissance de machines qui finiront tôt ou tard par nous transcender. Emily Bender, linguiste américaine spécialisée en linguistique informatique, nous prévient toutefois des dangers de cette métaphore : en plus d’être un terme générique, l’IA déforme la réalité et nous empêche de bien saisir les enjeux sous-jacents à l’apparition, par exemple, de grands modèles de langage (à l’instar de ChatGPT).
La chercheuse propose de remplacer ce terme tendancieux par l’acronyme SALAMI, pour Systematic Approaches to Learning Algorithms and Machine Inferences (Approches systématiques des algorithmes d’apprentissage et des inférences automatiques).
Ainsi, nous serions moins portés à nous poser des questions improductives du type : ce salami est-il intelligent ? Ce salami éprouve-t-il des émotions ?
Selon Emily Bender, au lieu de se préoccuper d’un avenir où les robots nous livreraient bataille, il faut s’interroger sur le fait que ces technologies travaillent de concert avec des moyens d’oppression déjà existants. Il s’agit d’ailleurs d’une menace réelle. Les risques que représentent ces nouveaux outils ont plus à voir avec la concentration des pouvoirs et la reproduction de systèmes d’oppression, leur impact environnemental et leur propension à la désinformation qu’avec une intelligence surhumaine capable de renverser l’humanité.
Et si les géants de la techno préfèrent un scénario catastrophe à la réalité, c’est peut-être parce que leur science-fiction fait gonfler la valeur de leurs actifs et encourage les investisseurs à miser sur leurs produits.
Devrions-nous à tout prix nous adapter aux nouvelles technologies ? Si c’est nous qui les créons, ne devraient-elles pas se plier à nos besoins et servir l’intérêt du plus grand nombre ? Nous sommes en droit de décider de notre avenir et de refuser des outils qui n’avantagent que les riches et les puissants.
Pour ce faire, il nous faudrait élaborer une meilleure littératie numérique. Comprendre la technologie est une manière de cerner les risques qu’elle peut entraîner. C’est d’ailleurs en la comprenant qu’on est à même de l’encadrer. À quand un programme de littératie numérique public pour tous et toutes ? Si les Québécois et Québécoises saisissaient toutes les bases du fonctionnement de ces systèmes informatiques, on pourrait alors parler d’un réel pouvoir citoyen.
Poète, essayiste et traductrice, Daphné B. est l’autrice de l’essai à succès Maquillée (Marchand de feuilles). Elle anime aussi son propre balado, Choses sérieuses.
À lire aussi : Les snark pages ou le côté obscur des forums de discussion
