Les spadassins de Midas1 étaient des prolétaires refusant de devenir des esclaves salariés enchaînés à l’avidité du capitalisme qui dégradait le sens moral du corps social. Ils affirmèrent que la propriété reposait entièrement sur le pouvoir Tell Guillaume le Conquérant qui s’appropriait et partageait le Royaume d’Angleterre à coups d’épée.
Dionysos, dieu du vin et des festivités, avait accordé à Midas le pouvoir de changer en or tout ce qu’il toucherait. Le revers de la médaille c’est qu’il n’était plus en capacité de se nourrir, ni de perpétuer son espèce.
L’intelligence artificielle (IA) serait-elle la solution permettant enfin à l’humanité de s’améliorer et de s’affranchir des chaînes de l’impossible et de l’inconcevable ?
Karel Čaprek écrivit en 1920 la pièce de théâtre de science-fiction Rossum Universal Robots. « Robots » pour « travailleurs » en tchèque. Isaac Asimov établissait que ses « robots réagissaient selon les règles logiques implantées dans leurs « cerveaux » au moment de leur construction »2. C’est ainsi que furent élaborées les trois lois fondamentales qui berceront notre imaginaire. Vous les croiserez notamment dans le film I, Robot mettant en scène Will Smith incarnant l’officier Del Spooner.
Première loi : « un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ».
Deuxième loi : « un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ».
Troisième loi : « un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi »3.
Vous y reconnaîtrez sans aucun doute l’amour de son prochain comme soi-même, l’obéissance aux règles et à l’autorité établie et enfin l’instinct de conservation. Le souffle de l’Esprit Saint, le contrat social4 et l’instinct animal.
Le 2 février 2024, la France ratifiait l’AI Act5 dont l’entrée en vigueur est prévue pour 2025. Sur le principe, l’usage de l’IA est interdit notamment pour la « notation citoyenne et la manipulation du comportement ou l’identification biométrique à distance des personnes dans les lieux publics ». Une exception est toutefois prévue pour des questions liées à la sécurité, dont la lutte contre le terrorisme6. Reste à savoir de quelle sécurité nous parlons et pour qui. Pour les uns, l’IA c’est avant tout une opportunité, pour d’autres, c’est un pouvoir liberticide laissé aux mains des forces de l’ordre7.
C’est surtout une opportunité dans l’univers du travail car elle ouvre des perspectives de développement décuplées. Dans un aéroport, le système Parafe exécute la mission d’identification du douanier8. Terminé le stress d’être refoulé de son propre pays en attendant l’approbation par un battement de paupières. Dans l’entreprise, l’IA pourra rédiger des textes, des présentations, assurer l’anticipation des besoins en ressources, proposer une liste de prospects prometteurs en fonction des caractéristiques de tels produits, etc.
Le salaire sera-t-il toujours la contrepartie d’un travail effectif et personnel du salarié ? Certes, il peut utiliser les ressources, outils et moyens dont il dispose pour parvenir à l’accomplissement de sa mission. Le risque est que l’outil surpasse l’humain qui programme sa propre obsolescence. Un T-800 nous promettait un « I’ll be back » pourtant rassurant9. Quelle utilité sociale, économique et morale donneriez-vous alors à cet humain dont le fruit de sa pensée peut être remplacé ?
Raphaël Enthoven10 partage une vision plus optimiste. Il rappelle que « la maïeutique11 est l’art d’exhumer le savoir dont on découvre qu’il était enfoui… L’enjeu est de faire émerger en l’élève le goût de penser par lui-même (et non tout seul), le goût de substituer un argument à une opinion, ou, au moins, d’exposer son opinion aux opinions qui la contredisent ». En l’occurrence, la machine n’a pas cette intelligence mais encore faut-il que nous conservions le goût de se nourrir de connaissances. L’IA est une puissance de frappe. Elle n’est pas plus intelligente, elle est juste plus nombreuse et puise dans ses entrailles tous les datas disponibles que nous lui apportons sur un plateau d’argent. L’être humain ne fait pas une restitution brute des données en cherchant dans un disque dur. Il offre une « résurrection opportune des souvenirs » selon sa propre conception, sa propre expérience, ses goûts, son impression… Il fait œuvre de création.
L’humanité progresse techniquement. Mais pouvons-nous écrire la même chose pour sa morale ? Le 7 octobre 2023 en est le marqueur effrayant. Le baron de Münchhausen12 s’enfermait dans des récits romancés de ses exploits imaginaires. Les Allemands ont aussi leur Cyrano de Bergerac. L’humanité préfère le mensonge qui réconforte plutôt que la vérité qui dérange. Le désir gagne sur la réalité. Honneur au séduisant et horreur du vrai nous adressant à notre propre et naturelle humanité.
L’IA devient alors le danger exacerbant les dérives.
Madame Marie-Caroline Missir écrivait que les enseignants « doivent apprendre aux enfants à devenir des citoyens éclairés capables de garder un libre arbitre dans le monde numérique soumis à des manipulations et des mensonges » 13. L’Homme contre la machine.
Et même la Chine qui pourtant utilise l’ensemble des ressources de l’intelligence artificielle pour contrôler son économie, son peuple ou encore ses ennemis impérialistes, a mis en place des actions pour circonscrire l’utilisation de l’application TikTok à seulement 40 minutes par jour. Idem pour le temps de jeux vidéo. C’est de l’addiction pure et dure.
L’action gouvernementale est intéressée. L’avenir de ses mouflets, que dis-je, de sa future élite est en jeu et donc la sienne. A quoi servirait l’Anneau de Sauron s’il n’y avait plus personne pour les gouverner. Certains parents laissent leurs enfants plus de 7 heures par jour devant leur écran. Des machines à succion.
L’œuvre de la « déculturation » est en route, effaçant une civilisation au profit d’un algorithme stimulant le système de récompense pour faire des consommateurs de biens et de services. La transcendance disparaît au profit du « me, myself and I »14.
Nous laissons l’IA alimenter notre espace de réflexion et nous guider. A partir de quand sommes-nous capables de dire que notre position est celle que nous avons choisie et non celle qui s’impose à nous par une argumentation prémâchée ? La course à l’IA est devenue essentielle. C’est une quête du pouvoir. L’Homme s’est libéré de la monarchie absolue de droit divin pour se brancher à une machine incapable d’offrir à Anderson la pilule rouge15. Serions-nous capables de voir le lapin blanc ?
Monsieur Michel Desmurget, docteur en neurosciences, avait conclu que les réseaux sociaux exploitent « les failles internes les plus primitives du cerveau ». Outre l’exposition aux risques de violences, de cyberharcèlements, à des contenus à faire bondir Saint Georges16, le temps d’écran rend le langage plus pauvre et provoque des difficultés en mathématiques. C’est l’appauvrissement des relations sociales et le songe morbide d’une voie sans issue.
40% des adolescents sont atteints par la myopie. C’est un véritable problème de santé publique. Adieu la lumière naturelle et bonjour l’immobilisme, la prise de poids ou le diabète. Serions-nous capables de voir Wall-E ? 17
S’il est nécessaire de mettre en place un couvre-feu numérique c’est bien que nous sommes en guerre. Le danger serait d’imaginer que nous pourrions y voir un chemin pavé d’or et que nous pourrions chanter nuit et jour. Mais lorsque nous nous retrouverons fort dépourvu quand la bise sera venue, il nous restera plus qu’à danser18 sur la douce mélodie d’un yodel helvétique.
Richard Wetzel, Avocat Associé
1 – « Coup pour coup » de Jack London – Fable écrite en 1900
2 – Manuel de la robotique selon Isaac Asimov
3 – Le Cycle des Robots – 1964 – Isaac Asimov
4 – « Du contrat social ou principes du droit politique » de Jean-Jacques Rousseau publié en 1762
5 – Loi sur l’intelligence artificielle de l’Union Européenne
6 – Journal Le Monde du 5 février 2024
7 – La vision de l’European Digital Rights penche plutôt sur la dystopie.
8 – Passage rapide aux frontières extérieures (Parafe) qui est un contrôle automatisé des voyageurs
9 – Terminator, film de science-fiction sorti en 1984 mettant en scène Arnold Schwarzenegger
10 – Raphaël Enthoven dans le Journal du Dimanche du 4 février 2024 et auteur de « L’esprit artificiel » aux éditions l’Observatoire – 24 janvier 2024.
11 – La Maïeutique est attribuée au philosophe Socrates consistant à faire accoucher les esprits de leurs connaissances.
12 – Les aventures du baron de Münchhausen, film britannique de Terry Gilliam – 1988
13 – Marie-Caroline Missir – Réseau Canopé dans Le Monde du 4 février 2024
14 – Moi, moi et moi.
15 – Matrix, film de science-fiction sorti en 1999 par les Wachowski.
16 – Selon la tradition chrétienne, Saint Georges est représenté en chevalier terrassant un dragon symbolisant la victoire du bien sur le mal.
17 – Film d’animation américain des studios Pixar sorti en 2008 où précisément, l’humanité dépendait de la machine lui interdisant de regagner la Terre.
18 – Sérieusement, vous n’avez pas la référence ?