L'imposture éthique autour de l'intelligence artificielle

 "Nous sommes aujourd'hui dans le règne non pas exactement de l'intelligence, mais de l'intelligence outil." Cliquez ici pour la suite de la citation d'Armand Robin.

La propagande de l’intelligence artificielle va bon train. Son allure va même à fulgurante vitesse, l’IA est sur toutes les lèvres, nous dit-on. Pour se déployer, elle n’a pas besoin de la puissance du calcul algorithmique qui la caractérise, mais de la complicité des médias qui travaillent à la fabrication du consentement.

Le Devoir n’est pas en reste à ce chapitre, nous accablant dans son édition du 22-23 septembre d’un cahier spécial qui, sans un esprit critique digne de ce nom, nous présente quasiment cette technologie comme l’entrée du Messie dans l’âge adulte : les miracles déferleront jusqu’à ce qu’on en ait fini avec l’inaptitude humaine, entrave à la fluidité des marchés et à la croissance illimitée du savoir comme de la productivité.

Le clergé de l’IA veut  révolutionner notre rapport au monde par l’apprentissage profond et renforcé. La voiture Google, si je peux me permettre un raccourci qu’on jugera sans doute réducteur, en contiendrait les prémices: aller vite, sans accident et sans dévier d’un parcours programmé, éventuellement programmé par d’autres machines. Quel parcours? Ils seraient infinis; les accidents aussi, peut-on imaginer. Il faudrait  interroger l’inconscient des machines pour avoir une idée des cauchemars qui pointent à l’horizon, mais il subsiste un dogme, un Veau d’Or que le clergé de l’IA vénère avec une piété de fondamentaliste, c’est le dépassement de  tous les seuils : économique, biologique, cognitif et anthropologique. Et ce dogme de l’illimitation, contrairement à ce que prétendent  les éthiciens-experts de l’IA, s’accomplit vraisemblablement « au péril de l’humain », pour reprendre le titre du dernier ouvrage du biologiste Jacques Testart (2018).

Ce péril, les créatifs en capital de risque l’ont déjà allègrement écarté, comme le rappelle Éric Sadin dans La Silicolonisation du monde (2016). Ceux-ci ont bien compris que le meilleur moyen de créer ou d’augmenter la productivité « consiste à se débarrasser des humains » (p. 101). L’IA, grâce au deep learning, leur facilite la tâche. Essayer d’insuffler de l’éthique dans cette mentalité, c’est comme vouloir transvaser la mer dans un trou creusé sur la plage avec une cuillère.

J’entends les grands prêtres de ce sacerdoce progressiste, les Jocelyn Maclure et Yoshua Bengio,  protester qu’ils travaillent au contraire à ce que le développement de cette technologie de « très haut calibre »  ‒ calibre comme dans canon ‒ se fasse de manière responsable, éthique… À la manière des « fonds éthiques » ?... Du « développement durable »?... On pourrait citer des pages entières montrant que ces notions sont des dispositifs idéologiques servant à dissimuler des pratiques iniques, qu’ils fonctionnent plutôt comme d’efficaces anesthésiants de l’intelligence, du sens  moral et politique.

Pour se convaincre de l’imposture du discours éthique autour de l’IA, il suffit de consulter la liste des  principaux acteurs de cette passion triste: Apple, Amazon, Facebook, Google, Microsoft, Netflix, Samsung, bref, la fabuleuse Silicon Valley. La plupart de ces multinationales font face à des condamnations se chiffrant en milliards, condamnations qui devraient suffire à démontrer que l’absence d’éthique est leur seule éthique. Amazon coiffe ses consœurs au poteau des bénéfices en supprimant le personnel et en vampirisant les marchés locaux : des économies, des communautés, des santés mentales sont fragilisées sinon détruites. Amazon est le modèle d’affaires par excellence carburant à l’IA.

L’IA est en fait un puissant coup d’accélérateur à l’accumulation de profits, tout en obtenant des fonds publics pour la recherche sous couvert éthique. Sa logique est radicalement opposée à toute pensée écologique et humaniste. « Dans les faits, écrit Éric Sabin, il s’agit là d’un nihilisme technologique et d’un antihumanisme radical » (p. 30). Il est éclairant de connaître la généalogie de l’esprit qui anime la Silicon Valley pour bien saisir sa nature. Trois courants idéologiques, a priori hétérogènes, convergent : la contre-culture, l’armée et l’esprit d’entreprise. De cette rencontre émergea « une figure d’un nouveau genre, l’ ‘’entrepreneur-libertaire’’, s’opposant à l’autorité et aux normes, seulement mû par son ‘’inspiration prémonitoire’’ porteuse d’un horizon salvateur » (p. 56). La force de ce nouveau héros asocial et à la psychologie souvent morbide, qui revendique individualisme, contestation et technoromantisme, s’apparente aux superhéros de Marvel, écrit Sabin. Comme lui, il apparaît dans l’imaginaire libéral libertaire comme le seul à porter les espoirs de l’humanité. Hors la volonté de puissance guerrière dirigée contre des forces du mal improbables, point de salut.

L’idéologie qui sous-tend l’IA est à l’opposé d’un espoir pour l’humanité, car il la met en péril, ce que le discours éthique écarte d’emblée. Comme le dit la journaliste et boursière du National Geographic, Ari Beser, à propos des découvertes d’Einstein conduisant à la bombe atomique, « [l]a révolution scientifique qu’était la fission atomique exigeait une révolution éthique et une morale ». Or non seulement cette révolution n’a pas eu lieu, mais le développement du technocapitalisme nous en éloigne chaque jour. Du reste, si cette morale était apparue et qu’elle était ancrée dans nos fragiles institutions démocratiques, on ne songerait même pas aujourd’hui à l’IA ou, du moins, elle  n’occuperait pas la place hégémonique qui est aujourd’hui la sienne.

 Cliquez ici pour accéder à la version numérique du Devoir.

Texte associé:   L'intelligence artificielle, voie royale de l'eugénisme
Ce texte est repris et augmenté dans mon essai, Mauvaise foi, sur ce que j'appelle la religion du progrès.