Qu'est-ce qu'un détecteur d'IA, et peut-il vraiment repérer un texte écrit par personne

La plateforme d'écriture Substack a dévoilé un nouvel outil conçu pour aider les lecteurs à déterminer si le contenu qu'ils lisent a pu être rédigé par une IA. Développé par une entreprise de détection d'IA appelée Pangram, l'outil analyse les articles, notes, réponses et commentaires pour fournir une estimation de la part du texte susceptible d'avoir été générée par une IA ou rédigée avec son aide.

L'émergence de tels outils répond à un problème créé par des grands modèles de langage de plus en plus capables de produire du contenu écrit : les lecteurs ne peuvent plus dire avec certitude si le texte qu'ils ont sous les yeux a été produit par un humain ou un algorithme. Des entreprises comme Pangram développent des modèles statistiques destinés à résoudre cette incertitude.

Alors, comment fonctionnent techniquement ces outils de détection ? La plupart des approches reposent sur l'idée que le texte généré par IA présente certains motifs statistiquement distincts de l'écriture humaine. Les modèles d'IA, par exemple, peuvent avoir tendance à utiliser certaines combinaisons de mots avec une fréquence plus prévisible que les humains, ou montrer une certaine régularité dans la structure des phrases. Les modèles de détection sont entraînés à reconnaître ce type de signatures statistiques subtiles.

Mais cette approche comporte une limite inhérente : à mesure que les modèles d'IA s'améliorent, ils se rapprochent toujours davantage de l'écriture humaine, réduisant l'écart statistique. Cela crée une course permanente entre les outils de détection et les modèles génératifs — un peu comme la relation entre les logiciels malveillants et les antivirus, où chaque camp s'adapte continuellement à l'autre.

La précision de ces outils est elle aussi un sujet contesté. Des tests indépendants ont montré que les outils de détection d'IA signalent parfois, à tort, un texte entièrement rédigé par un humain comme étant généré par IA — un problème qui survient plus fréquemment dans les textes rédigés par des personnes non natives anglophones, ou par celles écrivant dans un style très formel et répétitif. De tels faux positifs peuvent avoir des conséquences sérieuses ; dans un contexte académique, par exemple, des étudiants peuvent être accusés à tort de plagiat ou d'usage de l'IA.

Des erreurs en sens inverse sont également possibles : certains textes générés par IA, en particulier s'ils sont édités par un humain ou « humanisés », peuvent totalement échapper aux outils de détection. Cela signifie que les éditeurs et les plateformes doivent traiter les résultats de ces outils non pas comme un fait définitif, mais comme une estimation de probabilité.

L'outil de Substack semble reconnaître cette nuance : plutôt que de présenter un verdict définitif oui ou non, la plateforme propose une estimation de la part du texte susceptible d'être d'origine IA. Cette approche laisse aux lecteurs la possibilité de se forger un jugement plus éclairé, tout en reconnaissant implicitement que l'outil lui-même peut se tromper.

Pour les éditeurs, l'attrait de tels outils se comprend aisément : préserver la confiance des lecteurs est essentiel, en particulier à une époque où l'économie du journalisme et de l'écriture indépendants est en plein essor. L'assurance qu'un auteur écrit véritablement de sa propre voix fait partie de la valeur qui sous-tend le modèle d'abonnement.

Les critiques notent cependant que de tels outils peuvent aussi créer un faux sentiment de sécurité. Le fait qu'un article soit étiqueté « probablement écrit par un humain » ne signifie pas que ce contenu est exact ou fiable — cela ne fournit qu'une estimation statistique de l'origine du texte.

Pour l'heure, l'outil est déployé sur le web et sur iOS, une version Android devant suivre prochainement. La démarche de Substack est perçue comme s'inscrivant dans un débat plus large sur la manière dont les plateformes peuvent préserver la confiance des lecteurs à une époque où vérifier l'origine d'un contenu écrit devient de plus en plus complexe.