La dictature insoutenable des IA

L’affaire qui frappe aujourd’hui un écrivain canadien devrait nous inquiéter bien au-delà du monde littéraire. Son roman a été soumis à un logiciel censé détecter les textes produits par intelligence artificielle. Verdict : une part considérable de son œuvre aurait été écrite par une IA. L’auteur le dément. Son éditeur aussi.

Mais le problème est ailleurs : le logiciel a parlé, et son verdict risque d’être considéré comme une preuve.

J’ai fait exactement la même expérience avec l’un de mes propres textes. Un de ces logiciels m’attribue une proportion très importante d’écriture artificielle alors que je sais évidemment comment ce texte a été pensé, construit et écrit. Or, lorsque je charge dans d’autres IA l’ensemble de ce que j’ai moi-même publié depuis des années sur le même sujet, afin qu’elles connaissent mon vocabulaire, mes raisonnements, mes constructions et mes récurrences intellectuelles, la prétendue part d’IA tombe pratiquement à zéro.

C’est là que le problème devient vertigineux. Un logiciel décide proprio motu de ce qui est humain et de ce qui ne l’est pas. Nous ne connaissons ni réellement ses critères, ni leur pondération, ni les ressemblances stylistiques qui déclenchent le soupçon, ni les biais incorporés dans son fonctionnement. Et certains de ces outils peuvent parfaitement être utilisés avec malveillance : pour salir un auteur, discréditer une œuvre, mettre en doute son intégrité et, potentiellement, détruire une réputation.

Mais il y a plus inquiétant encore. Et si l’IA finissait par détruire le potentiel de création de l’humain ? Voilà peut-être le piège absolu.Nous avons commencé par craindre qu’elle écrive à notre place. Mais le danger ultime serait qu’elle nous persuade que, lorsque nous écrivons nous-mêmes, nous ne sommes plus crédibles.

À ce compte-là, l’être humain devra bientôt écrire moins bien, penser moins rigoureusement, hésiter davantage, introduire artificiellement des maladresses, simplement pour prouver qu’il est humain.Quelle inversion extraordinaire : la machine ne se contenterait plus d’imiter la création humaine. Elle finirait par la disqualifier. Et c’est là que la dictature devient beaucoup plus perverse qu’on ne l’imagine. L’IA n’est plus seulement un outil qui complète l’effort humain. Elle devient un juge qui décide si cet effort est encore authentique. Elle ne remplace plus seulement l’auteur : elle peut finir par lui retirer la légitimité d’être auteur.

Le danger n’est donc peut-être pas que l’intelligence artificielle devienne meilleure que nous. Le véritable danger serait que nous lui accordions le pouvoir de décider si ce que nous créons nous appartient encore.

Ce serait le piège absolu : inventer une machine destinée à augmenter la création humaine, puis finir par lui confier le pouvoir de l’annihiler.​