Il y a quelques semaines, je me suis mise en tête d’écrire un article sur l’intelligence artificielle générative.
Au départ, cela paraissait assez simple. Je voulais parler des auteurs, de l’IA bien avant qu’elle ne devienne générative et grand public, d’Isaac Asimov, avec lequel j’ai grandi, des questions de droit d’auteur… et de ce qui était susceptible de s’ensuivre.
C’est là que les ennuis ont commencé
En effet, je n’imaginais pas parler des œuvres utilisées pour entraîner les modèles sans mentionner le droit d’auteur, les corpus d’entraînement, le consentement, l’opt-out, les responsabilités des entreprises et celles des utilisateurs. Mais, dans la foulée, il me semblait tout aussi absurde d’évoquer « l’IA » comme un objet apparu avec ChatGPT. Et donc, comment faire l’impasse sur Alan Turing, sur Dartmouth College, sur les systèmes experts ? Comment négliger ce à quoi j’avais assisté autrefois, lorsque je voyais certains de mes collègues à l’université s’arracher les cheveux sur des systèmes de traduction automatique balbutiants ? Comment oublier ce qu’ils affirmaient, découragés, devant une dixième tasse de café… à savoir que jamais, au grand jamais, l’une de ces bécanes ne serait capable de produire autre chose que des phrases incohérentes.
Or voilà qu’aujourd’hui, une traduction obtenue en quelques secondes semble banale. Avec pour conséquences que l’incroyable praticité de l’outil menace directement le travail de traducteurs professionnels, pose la question brûlante de l’emploi, et donc des jeunes qui entrent sur le marché du travail en ayant parfois appris un métier au sein duquel de plus en plus de tâches sont ou seront réalisées par l’IA… avec la curieuse promesse selon laquelle ce sont les humains qui superviseront les machines. La question étant ensuite : mais qui diable formera, demain, des humains suffisamment compétents pour superviser lesdites machines si les tâches qui permettaient de former les débutants ont été automatisées ?
À ce stade, mon article ayant déjà pris une certaine ampleur, j’ai eu la curieuse sensation d’avoir mis le pied dans ce qui ressemblait initialement à un petit ruisseau, mais s’avérait en fait alimenter une succession de cascades à côté desquelles les chutes du Niagara peuvent aller se rhabiller.
Les annonces médiatiques des jours suivants (relayant la communication des dirigeants des entreprises qui développent ces IA) me confirmèrent cette impression. Un matin, les news indiquaient que des systèmes d’IA auraient fait une avancée réellement majeure en mathématiques (notez, svp, le conditionnel). Un après-midi, elles claironnaient que d’autres systèmes d’IA pourraient 1- contribuer à guérir des maladies jusqu’ici incurables, 2- produire une formidable prospérité, 3- provoquer, éventuellement, la disparition de l’humanité. Pas nécessairement dans cet ordre.
Je me suis donc mise à examiner ces discours en essayant de ne pas décider par avance s’ils relevaient de l’alerte sincère, de la stratégie industrielle, de la prudence juridique, ou de la publicité. Parce qu’après tout, annoncer qu’un produit serait capable, un jour pas si lointain, de détruire l’humanité, constitue une manière assez spectaculaire d’en vanter la puissance. « Achetez mon assemblage de puces électroniques, s’il peut dézinguer le genre humain, il doit être capable de réparer votre lave-vaisselle ». Je simplifie à l’extrême, évidemment, mais sur le fond…
Et puis Asimov s’en est mêlé
Pour le coup, j’ai commencé à me demander si je ne m’étais pas embarquée dans un mini-voyage temporel, voyage qui me ramènerait aux longues-longues heures (pas toujours marrantes) de mes débuts de thèse. Or, en toute sincérité, je n’en avais pas une folle envie… d’autant que c’est précisément à cet instant que les trois lois de la robotique imaginées par un Isaac Asimov que j’avais lu et relu ont frappé à la porte de l’article.
Et, le moins que l’on puisse dire, c’est que ces lois ne l’ont pas franchement simplifié (l’article, bien sûr).
En effet, l’intérêt des histoires d’Asimov réside beaucoup dans le fait qu’une règle a priori simple (ne pas faire de mal à un humain) devient redoutablement complexe dès qu’il faut déterminer ce qu’est le mal en question… en l’occurrence non seulement définir précisément la notion de dommage, mais aussi prévoir les conséquences d’une action, puis gérer des intérêts contradictoires, arbitrer, décider, trancher.
Dès lors, forcément, la question la plus brûlante n’était plus vraiment de savoir jusqu’où progresseraient les machines, mais plutôt ce qu’adviendrait-il de nous… les humains.
Et boum. Me voilà arrivée à l’école, aux apprentissages, aux résultats PISA, à l’Estonie qui expérimente une éducation à l’IA plutôt qu’une simple interdiction… et à une question aussi passionnante qu’effrayante : que devient un cerveau auquel la réponse est fournie avant même qu’il ait appris à construire la question ? Grosso modo… quid de l’avenir cognitif de l’humanité ?
Avec, en attendant, le piège de la complexité
À ce moment, j’ai donc tenté de prendre un peu de recul. Je ne pouvais nier qu’à chaque fois que je croyais pouvoir conclure quelque chose, une objection valable apparaissait. Puis une objection à l’objection. Du genre… une technologie peut être utile même si elle a été développée selon des méthodes que je réprouve, un métier peut se transformer mais des personnes perdre pour de bon leur emploi, une IA peut aider un élève à comprendre, tout comme elle peut lui permettre de ne plus faire l’effort nécessaire pour comprendre… et un dirigeant peut avoir intérêt à dramatiser les capacités de son merveilleux produit et, en parallèle, être réellement inquiet de ces mêmes capacités !
Je cherchais la nuance, je voulais une analyse circonstanciée. Plus j’avançais, plus elles devenaient nécessaires. Mais aussi, plus l’article prenait une ampleur inattendue. Et moi… je n’avais plus le temps de travailler au roman en cours. Alors j’ai pris une décision particulièrement courageuse et sophistiquée : j’ai laissé tomber.
Jusqu’à ce que l’actualité littéraire s’en mêle
Et là, au menu des news (encore elles) du moment, accusations d’utilisation d’IA générative, accusations de plagiats, polémiques induites, scuds virtuels en série. Je ne savais trop que penser… lorsque, d’un coup, a ressurgi, du fin fond de ma mémoire, l’histoire d’un autre plagiat.
Quand la plagiée risque de devenir la plagiaire
Cela remonte à mon premier roman.
Le livre était en cours de finalisation chez mon éditeur lorsque, un jour, le correcteur m’a appelée. Sa compagne était libraire, et elle venait de recevoir un roman publié par une autre maison… maison à laquelle j’avais, quelque temps auparavant, envoyé mon propre manuscrit.
Et la « coïncidence » était… forte. La couverture représentait précisément le même objet que celui qui devait figurer sur la mienne (même si le sujet en était très éloigné). Mais surtout, plusieurs pages présentaient des ressemblances franchement troublantes avec l’un des passages de mon manuscrit. Problème supplémentaire : l’autre roman venait de paraître, alors que le mien ne devait sortir que quelques semaines plus tard.
Autrement dit, dans l’hypothèse où ces étonnantes ressemblances associées à la chronologie des publications auraient été remarquées ailleurs qu’au sein de ma maison d’édition… la personne plagiée risquait de devenir la plagiaire !
Heureusement, j’étais enseignante-chercheuse et, dans le cadre académique, j’avais acquis quelques réflexes légèrement obsessionnels au regard de la traçabilité des travaux. Avant d’envoyer mon manuscrit aux éditeurs, je l’avais donc déposé auprès de l’INPI, sous enveloppe Soleau. Ainsi, mon texte était daté de façon certaine et incontestable.
À la demande de mon éditeur, j’ai donc écrit au directeur de l’autre maison. Longuement… très longuement, même, si mes souvenirs sont exacts. En lui expliquant que si quelqu’un était un jour tenté de s’interroger sur l’origine de ces ressemblances, mon éditeur et moi disposions de quelques éléments non anodins permettant de repositionner la flèche du temps dans le bon sens !
L’affaire en est restée là. Depuis, elle était classée-archivée dans une partie plutôt poussiéreuse de mon cerveau lorsque, ces derniers jours, les polémiques actuelles sur l’IA et l’écriture littéraire l’ont brusquement fait ressortir d’un tiroir. Et je me suis aperçue d’un phénomène qui, cette fois, prend une ampleur tout autre, puisqu’en relisant une phrase de cet article, je me suis surprise à penser…
Attention. Est-ce que cette phrase ne fait pas IA ?
Ainsi, après plus de vingt ans à écrire des romans, j’en venais à surveiller mon propre style de peur qu’on ne le trouve trop proche de celui d’une machine !
En vérité, il m’a fallu un instant pour réaliser ce dans quoi nous nous trouvons entraînés, cette inversion des perspectives à laquelle il faut opposer encore et encore une vérité basique. Non. Les humains n’ont pas appris à écrire en lisant les productions des IA génératives. Oui. Ce sont ces dernières qui ont appris à produire du texte à partir d’immenses quantités de productions humaines (pas toujours, qui plus est, utilisées avec l’autorisation de leurs auteurs ni contre rémunération).
Il y a vingt ans, j’ai eu peur de passer pour la plagiaire parce que l’ouvrage contenant des passages ressemblant au mien était sorti avant le mien. Aujourd’hui, j’ai parfois envie de modifier des phrases qui me ressemblent de peur qu’elles ressemblent aussi à ce qu’une machine entraînée à partir de textes humains semblables aux miens produirait.
À ce stade, j’ai donc décidé que l’article pouvait attendre. Quant à Isaac Asimov, il a déjà prévu suffisamment de paradoxes… il attendra aussi !
