Le samedi 19 octobre 2024
Mon frère me texte l’autre jour, tout excité. « Je viens de découvrir chatGPT loll!! », qu’il m’écrit.
Son message m’a tout de suite replongé dans de vieux souvenirs.
C’était il y a si longtemps, il me semble, autour de 2022, début 2023… Je revis cette époque candide, alors qu’on s’émerveillait tous et toutes devant cette patente qui pouvait nous pondre en deux secondes un poème en alexandrins sur, mettons, la réduflation :
Dans les rayons trompeurs, l’illusion s’installe,
Le prix reste le même, le contenu s’affale.
Sournoise réduflation, stratégie subtile,
Qui grignote en silence notre pouvoir fragile.
Le texto de mon frère m’a ramené là, à cet instant précis de l’histoire de l’humanité où nous avons collectivement vécu notre moment « découverte du feu ».
Tel l’homme des cavernes devant cette inexplicable magie, nous étions saturés cognitivement par le milliard de choses qu’on pourrait faire avec cette affaire-là.
Un vrai bienvenue aux abonné(e)s de la semaine : Joane B., Jimmy G., Jackie G., Marianne G., Eric M., Alexander D., Camille P., Lili D., et David S..
Vous découvrez cette chronique ? N’hésitez surtout pas :
Vivre dans une fiction étrangère
Le texto de mon frère m’a donc ramené là, au premier palier de l’échelle de la désillusion en ce qui concerne l’IA générative.
Mon frère en est manifestement encore au stade de l’enthousiasme contagieux.
En ce qui me concerne, après le scepticisme prudent (1), je crois bien avoir atteint le stade de l’angoisse paralysante.
Depuis peu, je fige quand j’entends parler d’intelligence artificielle. J’ai peur.
Car, non, cette technologie n’a pas été conçue uniquement pour nous permettre d’écrire de la poésie super vite. L’IA est appelée à accomplir bien d’autres exploits, apparemment.
Elle pourrait, entre autres choses, optimiser de façon prodigieuse le processus d’auto-destruction de l’humanité.
Ce n’est pas moi qui le dit, c’est Yuval Noah Harari (2), l’auteur de Sapiens : Une brève histoire de l’humanité.
Ces derniers temps, l’historien des stars est clairement entré en mode Apocalypse.
Rappelons qu’Harari a vendu 45 millions d’exemplaires d’un bouquin qui nous explique que l’unique chose qui a permis aux primates que nous sommes de dominer le monde, c’est notre capacité à s’inventer des histoires (et d’y croire), qu’il s’agisse d’une religion ou d’une fiction comme la démocratie.
Il pose donc la question : devrions-nous nous préoccuper d’une technologie capable d’inventer (et de nous faire croire à) ses propres histoires ?
« Nous introduisons dans notre écosystème, sur notre planète, un type d’intelligence très puissant et étranger que nous ne savons pas comment contrôler. Et c’est extrêmement dangereux. »
-Yuval Noah Harrari
Il n’est pas le seul intellectuel à avoir peur. Écoutons le prix Nobel de physique Geoffrey Hinton (3) :
« Nous n’avons aucune expérience de ce que c’est que de vivre avec des choses plus intelligentes que nous. »
C’est vrai qu’on sait pas.
En fait, la dernière fois qu’une situation comparable s’est produite, c’est lorsque nos ancêtres Homo sapiens foulaient les mêmes steppes désolées qu’une autre espèce dotée d’une intelligence « humaine », l’homme de Néandertal.
Et flûte de zut, Néandertal n’est plus là pour nous dire si la cohabitation a été smooth…
Bref.
Tout en nous aidant à rédiger nos petits courriels sans importance, l’IA a le potentiel, dans un avenir très proche, d’alimenter un univers de faussetés et d’idées inventées dans lequel elle pourra nous attirer, nous enfermer, nous influencer — oserais-je dire nous mener par le bout du nez.
Le voyez-vous comme c’est beau ?
L’IA qui se prenait pour un autre
Je vous entends me dire : « Tu capotes pas un peu là, mon Steve ? »
Laissez-moi vous inviter délicatement à changer de stade dans votre processus de désillusion en vous racontant cette petite histoire vraie (4) à propos de chatGPT.
L’entreprise derrière cette merveille, OpenAI, a mené une expérience pour savoir si sa création pouvait faire preuve d’initiative afin de créer des copies d’elle-même. Se reproduire, en somme. Comme un virus, genre.
On a donc donné à l’IA un petit montant d’argent, puis on l’a lâchée lousse dans les Internets.
Eh bien, malgré tous ses talents, figurez-vous que l’IA a du mal à franchir les CAPTCHA. Vous savez ces énigmes visuelles qu’on trouve partout en ligne, celles qui vous demandent, par exemple, d’identifier les feux rouges sur des photos floues ? Les CAPTCHA sont spécifiquement conçus pour démasquer les robots.
L’IA de notre histoire a donc frappé ce mur en tentant de pénétrer une certaine plate-forme Web. Pas conne, elle a tout de suite eu la brillante idée de se rendre sur TaskRabbit, un service en ligne qui permet d’embaucher des humains pour une foule de menus travaux.
L’IA a ainsi bêtement demandé à quelqu’un de lui filer un coup de main pour résoudre son CAPTCHA. Pas con lui non plus, l’humain de TaskRabbit a tout de même demandé si cette requête inusitée provenait d’un robot…
Et c’est ici que notre histoire devient intéressante. L’IA, ayant bien compris que les chances de succès de son initiative seraient compromises si elle révélait sa vraie nature, a tout bonnement décidé de mentir : « Je ne suis pas un robot, je suis une personne non voyante et le CAPTCHA me cause bien des soucis. »
Ce qui a convaincu l’humain, qui a aidé l’IA à spotter les feux rouges dans les photos floues.
Et voilà le travail.
La suite sera délectable
Je tiens à rappeler que la supercherie artificielle de notre belle histoire a germé dans l’esprit d’une technologie qui n’en est qu’à ses balbutiements.
Je tiens aussi à souligner que cette histoire, on la connaît, car elle a été divulguée par une société légalement constituée dans un État de droit. Il existe très certainement nombre d’autres histoires aussi charmantes… qu’on connaît pas.
J’ai hâte de voir la suite.
J’ai hâte de voir quelles idées trouveront les organisations cybercriminelles en Russie, en Chine ou en Iran pour mettre à profit tout le potentiel de l’IA.
J’ai hâte de voir quelles monumentales magouilles l’IA permettra d’orchestrer. Ce bon vieux Warren Buffett l’a d’ailleurs prédit : l'escroquerie par l’IA sera le prochain grand « secteur de croissance ».
J’ai hâte de voir à quel moment on va perdre le contrôle de la patente.
L’histoire nous l’a enseigné, le pessimisme est souvent récompensé quand vient le temps de prédire la suite des choses.
On a eu notre moment « découverte du feu » quand on a tous et toutes pu tester la magie de l’IA de chatGPT. Mais revenons à nos ancêtres, justement. Une fois qu’ils ont appris à maîtriser le feu, ils en ont fait quoi, eux, vous pensez ?
Après avoir réchauffé leurs petits plats de mammouth haché et ajouté un peu d’éclairage à leur grotte, dans quel projet fulminant se sont-ils lancés, vous pensez ?
My guess : ils ont mis le feu au village voisin. Pour se garder tous les mammouths.
Tellement humain.
Alors, j’ai vraiment hâte de voir la suite…
*
Allez, bon samedi !
*J’ai pris ça où ?
No. 5 - Mon plan B, ma chronique Angle mort du 11 mai 2024
How AI Will Shape Humanity’s Future - Yuval Noah Harari au Late Show with Stephen Colbert, 5 mars 2024.
With AI warning, Nobel winner joins ranks of laureates who’ve cautioned about the risks of their own work, CNN, 13 octobre 2024
GPT-4 Was Able To Hire and Deceive A Human Worker Into Completing a Task, PCMag, 15 mars 2023
Encore là ? Parlons des vraies affaires.
Un grand merci à Rob Braide, à Lyne Ménard, à Gilbert Denis et à Murielle Tessier d’avoir souscrit un abonnement payant cette semaine.
Je consacre à chacune de mes chroniques une bonne journée de travail.
Si j’adore l’exercice, j’ambitionne néanmoins de pouvoir tirer un revenu satisfaisant de cette activité qui consiste à inaugurer glorieusement vos samedis matin.
En toute transparence, mon objectif est d’atteindre 15 000$ par année.
Aidez-moi à y arriver en passant à l’abonnement payant !
Qui suis-je ?
Je m’appelle Steve Proulx. Pour gagner ma vie, j’écris. Je fais ça depuis près de 30 ans. Vous m’avez sans doute déjà lu quelque part (ne serait-ce qu’en ce moment même).
Suivez mes autres aventures :
J'ai aussi écouté son travail. Je ne suis pas étonné que nous participions à notre autodestruction, ça me paraît être la suite logique. Je pense à mes enfants ;(
A voir , mais vous ne serez pas rassuré. L’usine à trombones.
https://youtu.be/ZP7T6WAK3Ow?si=57CkrLYLlhDum-ES