L’imposture éthique autour de l’intelligence artificielle

 "Nous sommes aujourd'hui dans le règne non pas exactement de l'intelligence, mais de l'intelligence outil." Cliquez ici pour la suite de la citation d'Armand Robin.

La propagande de l’intelligence artificielle va bon train. Son allure va même à fulgurante vitesse, l’IA est sur toutes les lèvres, nous dit-on. Pour se déployer, elle n’a pas besoin de la puissance du calcul algorithmique qui la caractérise, mais de la complicité des médias qui travaillent à la fabrication du consentement.

Le Devoir n’est pas en reste à ce chapitre, nous accablant dans son édition du 22-23 septembre d’un cahier spécial qui, sans un esprit critique digne de ce nom, nous présente quasiment cette technologie comme l’entrée du Messie dans l’âge adulte : les miracles déferleront jusqu’à ce qu’on en ait fini avec l’inaptitude humaine, entrave à la fluidité des marchés et à la croissance illimitée du savoir comme de la productivité.

Le clergé de l’IA veut  révolutionner notre rapport au monde par l’apprentissage profond et renforcé. La voiture Google, si je peux me permettre un raccourci qu’on jugera sans doute réducteur, en contiendrait les prémices: aller vite, sans accident et sans dévier d’un parcours programmé, éventuellement programmé par d’autres machines. Quel parcours? Ils seraient infinis; les accidents aussi, peut-on imaginer. Il faudrait  interroger l’inconscient des machines pour avoir une idée des cauchemars qui pointent à l’horizon, mais il subsiste un dogme, un Veau d’Or que le clergé de l’IA vénère avec une piété de fondamentaliste, c’est le dépassement de  tous les seuils : économique, biologique, cognitif et anthropologique. Et ce dogme de l’illimitation, contrairement à ce que prétendent  les éthiciens-experts de l’IA, s’accomplit vraisemblablement « au péril de l’humain », pour reprendre le titre du dernier ouvrage du biologiste Jacques Testart (2018).

Ce péril, les créatifs en capital de risque l’ont déjà allègrement écarté, comme le rappelle Éric Sadin dans La Silicolonisation du monde (2016). Ceux-ci ont bien compris que le meilleur moyen de créer ou d’augmenter la productivité « consiste à se débarrasser des humains » (p. 101). L’IA, grâce au deep learning, leur facilite la tâche. Essayer d’insuffler de l’éthique dans cette mentalité, c’est comme vouloir transvaser la mer dans un trou creusé sur la plage avec une cuillère.

J’entends les grands prêtres de ce sacerdoce progressiste, les Jocelyn Maclure et Yoshua Bengio,  protester qu’ils travaillent au contraire à ce que le développement de cette technologie de « très haut calibre »  ‒ calibre comme dans canon ‒ se fasse de manière responsable, éthique… À la manière des « fonds éthiques » ?... Du « développement durable »?... On pourrait citer des pages entières montrant que ces notions sont des dispositifs idéologiques servant à dissimuler des pratiques iniques, qu’ils fonctionnent plutôt comme d’efficaces anesthésiants de l’intelligence, du sens  moral et politique.

Pour se convaincre de l’imposture du discours éthique autour de l’IA, il suffit de consulter la liste des  principaux acteurs de cette passion triste: Apple, Amazon, Facebook, Google, Microsoft, Netflix, Samsung, bref, la fabuleuse Silicon Valley. La plupart de ces multinationales font face à des condamnations se chiffrant en milliards, condamnations qui devraient suffire à démontrer que l’absence d’éthique est leur seule éthique. Amazon coiffe ses consœurs au poteau des bénéfices en supprimant le personnel et en vampirisant les marchés locaux : des économies, des communautés, des santés mentales sont fragilisées sinon détruites. Amazon est le modèle d’affaires par excellence carburant à l’IA.

L’IA est en fait un puissant coup d’accélérateur à l’accumulation de profits, tout en obtenant des fonds publics pour la recherche sous couvert éthique. Sa logique est radicalement opposée à toute pensée écologique et humaniste. « Dans les faits, écrit Éric Sabin, il s’agit là d’un nihilisme technologique et d’un antihumanisme radical » (p. 30). Il est éclairant de connaître la généalogie de l’esprit qui anime la Silicon Valley pour bien saisir sa nature. Trois courants idéologiques, a priori hétérogènes, convergent : la contre-culture, l’armée et l’esprit d’entreprise. De cette rencontre émergea « une figure d’un nouveau genre, l’ ‘’entrepreneur-libertaire’’, s’opposant à l’autorité et aux normes, seulement mû par son ‘’inspiration prémonitoire’’ porteuse d’un horizon salvateur » (p. 56). La force de ce nouveau héros asocial et à la psychologie souvent morbide, qui revendique individualisme, contestation et technoromantisme, s’apparente aux superhéros de Marvel, écrit Sabin. Comme lui, il apparaît dans l’imaginaire libéral libertaire comme le seul à porter les espoirs de l’humanité. Hors la volonté de puissance guerrière dirigée contre des forces du mal improbables, point de salut.

L’idéologie qui sous-tend l’IA est à l’opposé d’un espoir pour l’humanité, car il la met en péril, ce que le discours éthique écarte d’emblée. Comme le dit la journaliste et boursière du National Geographic, Ari Beser, à propos des découvertes d’Einstein conduisant à la bombe atomique, « [l]a révolution scientifique qu’était la fission atomique exigeait une révolution éthique et une morale ». Or non seulement cette révolution n’a pas eu lieu, mais le développement du technocapitalisme nous en éloigne chaque jour. Du reste, si cette morale était apparue et qu’elle était ancrée dans nos fragiles institutions démocratiques, on ne songerait même pas aujourd’hui à l’IA ou, du moins, elle  n’occuperait pas la place hégémonique qui est aujourd’hui la sienne.

 Cliquez ici pour accéder à la version numérique du Devoir.

Texte associé:   L'intelligence artificielle, voie royale de l'eugénisme
Ce texte est repris et augmenté dans mon essai, Mauvaise foi, sur ce que j'appelle la religion du progrès.

Mauvaise foi. Essai sur la religion du progrès

«On n’arrête pas le progrès», dit l’adage. Cela vaut sur les plans technique et culturel. Ce qu’on appelle aussi l’évolution des mœurs accompagne en fait le progrès technique comme son ombre, contribuant à ériger, au cœur même du discours progressiste, un sentiment de fatalité, comme si les choses ne pouvaient aller autrement. Critiquer cette religion apparaît du coup comme une faute, un péché qui peut mener à l’exclusion. À travers l’analyse de romans, films, essais et l’examen de diverses manifestations culturelles contemporaines, Gilles McMillan montre que l’opposition classique entre progressistes et conservateurs est maintenant largement dépassée, les uns et les autres ayant massivement adhéré à la religion du progrès. Il affiche ouvertement sa mauvaise foi à l’égard de cette religion et, inspiré par l’œuvre de Réjean Ducharme, il reprend à son compte une phrase de Johnny, le narrateur de Gros mots : «c’est comme ça, on est sauvés si on a la mauvaise foi…»  

Gilles McMillan a publié La contamination des mots chez Lux Éditeur en 2014, L’ode et le désode, un essai sur Réjean Ducharme, chez l’Hexagone en 1995, et de nombreux articles dans diverses revues (dont Contre-Jour, Hors Champ, L’inconvénient et Liberté). Il a également fait paraître des textes polémiques dans les sections «Opinions» et «Idées» du quotidien Le Devoir.

 L'essai, publié chez Somme toute, sera en librairie le 23 octobre 2018.

Lire ici la chronique de Jacques Lanctôt sur l'essai.

 

 

                                                 **

 

Texte de lancement,  25 octobre 2018 au Ping Pong Club

 

Merci d’être là si nombreux. Merci au Ping Pong Club de nous accueillir, au personnel…

 

Bienvenue au cœur de la Silicone Vallée-du-Saint-Laurent, à deux pas d’Ubi Soft et du Mile-Ex, haut lieu de l’économie de la donnée dopée à l’algorithme, appelée fallacieusement « intelligence artificielle », « réalité virtuelle », alors que la virtualité existe indépendamment de l’univers numérique (le devenir, la fiction, le rêve, le jeu désintéressé), alors que l’intelligence est d’abord une affaire de relation sensible au monde, à l’exubérance, au foisonnement illimité et non maîtrisable de la vie. Ce n’est évidemment pas ce que pensent nos docteurs Frankenstein et les entrepreneurs qui financent la chose.

Toute cette guerre, car c’est bien d’une guerre pour le contrôle du monde et des esprits dont il s’agit (et ce n’est pas une guerre des « boutons », comme certains le croient), commence par les mots, dans l’imaginaire, par la contamination des mots. Plus que jamais nous avons besoin de poésie, de littérature, de paroles non programmées, de « paroles contraires » (Erri de Luca).

La poésie, en vers ou en prose, dévoile les impostures, les formules trompeuses, intéressées, au service d’une volonté de puissance, de pouvoir, au service de la manipulation des esprits pour posséder le monde. Le poète Yves Bonnefoy, décédé en 2016, écrivait dans Le siècle où la parole a été victime : « Que cet humus fasse défaut à la langue, et la société est en grand péril, la parole ne trouvant plus à la surface des vocables de quoi entreprendre ou même concevoir la transgression des dogmes qui est sa tâche. »

Yves Bonnefoy disait que si le nazisme a échoué dans la tâche d’asservir la parole et l’humanité, il n’est pas certain que le nihilisme, ou la servilité de la technoscience, ne réussirait pas là où le nazisme a échoué. Et l’auteur insistait pour distinguer le lyrisme factice de la poésie. Le lyrisme factice, disait-il, ne peut être que naïveté ou mensonge. Or ce lyrisme, ce sentimentalisme, maladie infantile du progressisme, dégouline de partout dans le discours social.

Intelligence artificielle, donc, réalité virtuelle… notions auxquelles  Yoshua Bengio, le grand gourou montréalais de la recherche dans ce domaine, ajoute,  dans un texte d’opinion paru dans Le Devoir, la notion de   « communauté de l’intelligence artificielle » : éthiciens, techniciens, ingénieurs, entrepreneurs, Google, Apple, Facebook, Microsoft, même combat, même communauté d’intérêts. C’est M. Bengio qui le dit et je le crois dur comme fer : je ne le crois pas du tout quand il drape son discours dans une éthique pour cette industrie.

Voici donc une manière de dire que l’essai Mauvaise foi est fondé sur la même méthode que mon livre précédent, La contamination de mots, si tant est qu’il s’agisse d’une méthode. Plutôt une sensibilité littéraire et politique pour le monde ‒ sans la prétention néanmoins de faire de la poésie.

Ce que je tiens à dire ici devant vous, et cela me semble de la plus haute importance, c’est qu’il est absolument faux et profondément démagogique d’affirmer que seuls les experts peuvent s’exprimer sur des sujets apparemment pointus qu’est l’ambition de l’économie numérique à dominer le monde. C’est de l’intimidation d’affirmer cela, de la propagande, comme nous en servent les médias, Le Devoir en tête, à coups d’articles, de textes d’opinion et de cahiers spéciaux (10 en cours).

S’il y a une croyance qui m’anime, c’est bien celle-là : la mise en question des dogmes, ou, du moins, la possibilité d’ébranler les consensus. C’est la croyance derrière ma mauvaise foi à l’égard de la religion du progrès qui est caractérisée aussi par la transgression de toutes les limites, des dogmes, sauf bien sûr les siens : ses dogmes positivistes au service d’une raison instrumentale. Nous devrions pourtant être capables de parler du monde, pour le monde et pour soi, avec un autre langage que celui des experts, un autre langage que celui des cerveaux enfermés dans un bocal, comme le disait George Orwell, ou dans un boitier en silicone, dirions-nous aujourd’hui.

Le grand philosophe politique Cornélius Castoriadis disait qu’il fallait bien sûr consulter les scientifiques, notamment sur les questions d’écologie, mais que l’exercice de la démocratie, décider du monde dans lequel nous voulions vivre, ne revenait pas aux spécialistes, mais au peuple, c’est-à-dire la circulation d’une parole démocratique qui nait d’une authentique pluralité sociale. Ce qui n’est pas le cas aujourd’hui. Nos régimes, disait le philosophe grec, sont plutôt des oligarchies libérales dans lesquelles l’insignifiance  politique est en montée ‒ de même que les extrêmes (René Girard). Et il faut d’ailleurs préciser qu’il n’y a pas d’unanimité chez les scientifiques, que plusieurs nous mettent en garde contre l’IA et ses envies nihilistes de sortir de l’humanité, notamment le biologiste Jacques Testart (Au péril de l’humain). De ceux-là, la propagande technolibertarienne ne parle pas, sinon pour les neutraliser.

Cette guerre pour conquérir le monde est bien sûr économique, mais aussi culturelle au sens fort du terme. Les arts, la culture sont sous-financés? L’éducation, la santé, les services sociaux? Ne cherchez pas où on investit l’argent et les ressources.

Tous les programmes de subventions que je reçois dans mon ordinateur (!!...) du Conseil des arts du Canada et du Conseil des arts et des lettres du Québec tournent autour du numérique;  le numérique et la valorisation de ce qu’on appelle par euphémisme les minorités visibles ‒ et de moins en moins visibles, jusqu'à devenir invisibles, sauf dans le fantasme victimaire. Y aurait-il un lien? J’en vois un.

Plus le technolibertarisme travaille à conduire le train du progrès vers la « trans » ou la « post » humanité, plus les humains deviennent interchangeables, obsolètes, voire nuisibles. Tous les humains, qu’importe le genre, la couleur ou la douleur narcissique, parce que l’humanité est bien ce grain de sable dans la « mégamachine » (Lewis Mumford, Serge Latouche).

Alors, question de semer un peu de confusion, double pensée oblige (Orwell encore), on feint de s’intéresser aux plus fragiles, aux gens et aux groupes sociaux qui sont marginalisés par la mégamachine. Dans les faits, on instrumentalise tout le monde, les immigrants bien sûr, qu’on idéalise ou stigmatise. On braque les populations les unes contre les autres et on aggrave les génocides au nom de l’humanitaire (Boualem Sansal). C’est aussi ce qu’on appelle le multiculturalisme (idéologie inscrite dans la Constitution canadienne, rappelons-le), qu’il ne faut pas confondre avec la pluralité sociale, mais davantage avec la montée de l’insignifiance qui accompagne, on s’en doute, la montée aux extrêmes.

Bref, pendant qu’on s’entredéchire entre communautés essentialisées (moi et mon malheur à moi seul), le train fou du progrès, bourré gaz, passe devant nous pour aller exploser dans une petite ville paisible, loin des investisseurs pétroliers. Je ne saurais trop vous inciter à lire l’excellent livre d’Anne-Marie Saint-Cerny, Mégantic, qui est l’antithèse du succes story du Mile-Ex, bien que ce succes story numérique recouvre aussi un effondrement civilisationnel, plus délicat à analyser.

Comme vous le voyez, j’ai non seulement la mauvaise foi, j’ai aussi les foies : la peur du monde comme il va et où il va.

Je pourrais m’arrêter ici, mais je n’aurais rien dit de très précis de l’essai que je vous présente aujourd’hui, quoique je ne parle que de lui.

Je ne me suis pas levé un matin en me disant, « tiens, je vais écrire un livre sur la religion du progrès »; « tiens, je vais écrire un livre sur la mauvaise foi. »

La mauvaise foi à l’égard du productivisme ou de la religion du progrès, je l’ai depuis longtemps, mais elle s’est approfondie au contact de l’œuvre romanesque de Réjean Ducharme il y a plus de trente ans. Et dernièrement, en  relisant L’hiver de force, Les Enfantômes et Gros mots, j’ai eu une sorte de révélation, une confirmation plutôt d’une révélation : toute son œuvre est composée radicalement contre la doxa  progressiste ou productiviste, politique, culturelle, contre-culturelle.

Et en relisant les critiques, lectures favorables et défavorables, je suis frappé par le fait qu’on neutralise la portée de ses romans, au point de leur faire dire le contraire de ce qu’ils disent. On aime bien Ducharme, pourvu qu’on puisse la caser du côté de la rébellion infantile contre l’adulte, ou de la rébellion œdipienne sans conséquence, nimbée de lyrisme niais et mensonger dont parle Yves Bonnefoy.

Certains des textes qui composent Mauvaise foi ont été publiés ailleurs, dans des revues littéraires ou dans Le Devoir. La plupart ont été réécrits, mais ils sont surtout agencés de telle sorte qu’ils forment, je l’espère, une unité inédite.

Il s’agit, somme toute (…), de tâtonnements autour des thèmes que je viens de soulever, d’intuitions, de mots empruntés à plusieurs auteurs. Parmi ces thèmes, je place très haut celui de la parole contraire, qu’Erri De Luca oppose à la parole obséquieuse faite de simulacres, de dissimulation, de démagogie. Ce qui est frappant, c’est que tous les auteurs portés par les exigences de la parole contraire débusquent, chacun à sa manière, ce qu’Orwell appelait la double pensée. Plus près de nous, notamment dans l’idéologie technolibertarienne, la contre-culture joue un rôle majeur de simulacre, la culture du cool : ce que Ducharme appelait dans L’hiver de force, en 1973, la « CCC », la contre-culture de consommation.

Pour terminer, je tiens à remercier : Vincent Lambert de la revue Contre-Jour, Mathieu Bélisle de la revue L’Inconvénient, Jean Pichette qui portait à l’époque la casquette de directeur de la revue Liberté. Je remercie ces gens pour leur accueil dans les pages de leur revue. Je remercie le cinéaste et critique Simon Galiero pour ses conseils judicieux, impitoyables, mais néanmoins amicaux; ma blonde Jocelyne Fournel  pour la patience quotidienne dont elle fait preuve à mon égard; l’équipe des Productions Somme toute  et, bien sûr, tout particulièrement mon cher éditeur Jean Pichette, qui porte aujourd’hui la casquette de directeur des Productions Somme toute.  Sans lui, cet essai n’existerait sûrement pas tel qu’il est, et que j’aime. C’est d’ailleurs lui qui m’avait parlé un jour de l’idéologie du progrès comme d’une guerre.

Jean est surtout un ami et complice dans le dur labeur d’exercer quotidiennement sa mauvaise foi à l’égard de la religion du progrès. Dur labeur qui n’est pas dénué d’une grande satisfaction, aussi illusoire soit-elle : celle de ne pas appartenir à ce que j’appellerai, pastichant François Rabelais et Philippe Muray, le grand troupeau des mutants de Panurge. (J’espère ne pas heurter ici la sensibilité d’animalistes).

 

Merci à vous tous, parents et amies lectrices, amis lecteurs.

 

Gilles McMillan

https://www.gillesmcmillan.com/

Texte lu dans le vacarme du Ping Pong Club, le jeudi 25 octobre 2018.