Pourquoi les détecteurs d'écriture par IA installent une nouvelle ère de méfiance

Les détecteurs de texte par IA trouvent leurs racines dans les outils anti-plagiat utilisés par les enseignants et les éditeurs bien avant l'apparition de ChatGPT. Ces outils fonctionnaient en comparant un texte à une vaste base de données de contenus en ligne, d'articles scientifiques et d'autres sources, en signalant les phrases et expressions correspondantes.

Des outils établis comme Turnitin produisaient un pourcentage indiquant la part d'un texte semblant provenir d'autres sources. Mais l'essor de ChatGPT et des grands modèles de langage similaires a fondamentalement changé la mission confiée à ces outils : ils doivent désormais détecter non seulement le texte copié, mais aussi le texte original généré par l'IA.

Le problème est que détecter un texte généré par IA constitue un défi technique bien plus difficile que détecter une copie directe. La détection de plagiat cherche une correspondance exacte avec une source existante. La détection de génération par IA, elle, repose sur des estimations probabilistes fondées sur la « signature statistique » d'un texte.

Cette approche statistique produit des taux d'erreur importants. Des recherches ont documenté de nombreux cas où ces outils ont incorrectement signalé des écrits rédigés par de véritables humains comme générés par IA. Les personnes non anglophones natives et les auteurs adoptant un style plus formel et structuré courent un risque disproportionné d'être mal identifiés.

Ces faux positifs peuvent avoir de lourdes conséquences. Des étudiants ont fait l'objet de sanctions disciplinaires pour des accusations de fraude académique qu'ils n'avaient jamais commises. Certaines universités ont commencé à mettre en garde leur corps enseignant contre le fait de considérer les résultats des outils de détection comme une preuve suffisante en soi.

Des inquiétudes similaires émergent dans le journalisme et l'édition. À mesure que les éditeurs deviennent méfiants quant à l'authenticité des auteurs, ces derniers craignent à leur tour que leur travail réellement original soit à tort signalé comme généré par IA — une dynamique qui érode la confiance sur laquelle repose la relation entre auteur et éditeur.

Les entreprises proposant des outils de détection affirment mettre à jour en permanence leurs algorithmes et que les taux de précision s'améliorent. Des chercheurs indépendants rétorquent qu'à mesure que les modèles d'IA progressent, les outils de détection risquent de rester perpétuellement en retard dans une course qu'ils pourraient ne jamais totalement remporter.

Certains experts estiment que le problème appelle un changement d'approche institutionnel plutôt qu'une solution purement technique. Des alternatives comme les examens oraux, l'examen de l'historique des brouillons ou une évaluation centrée sur le processus sont envisagées pour réduire la dépendance excessive aux outils de détection.

Parallèlement, à mesure que l'écriture générée par IA devient de plus en plus indissociable de l'écriture humaine, les mises en garde se multiplient : une détection fiable pourrait à terme devenir techniquement impossible. Certains chercheurs prédisent qu'à moyen terme, une détection fiable pourrait tout simplement ne plus être réalisable.

Au final, le climat de méfiance créé par les détecteurs d'IA pointe vers une question plus vaste que la technologie elle-même : la manière de vérifier l'authenticité d'une communication écrite continuera de façonner l'éducation et l'édition dans les années à venir.