Comment fonctionne la détection de ressemblance IA, et pourquoi les plateformes se précipitent pour la développer

Alors que les images et vidéos truquées générées par IA se propagent rapidement en ligne, les plateformes de réseaux sociaux commencent à développer des outils permettant aux utilisateurs de détecter quand leur propre visage a été utilisé sans autorisation. Dernière initiative de TikTok en ce sens : un outil facultatif en cours de test qui permet aux utilisateurs de rechercher des « ressemblances IA » non autorisées les représentant.

Repérée par le consultant en réseaux sociaux Matt Navarra, la fonctionnalité est actuellement en phase de test limitée auprès de « certains » créateurs aux États-Unis. Zachary Kizer, porte-parole de TikTok aux États-Unis, a confirmé que l'outil est conçu pour analyser le contenu circulant sur la plateforme afin de détecter les images générées par IA utilisant le visage d'un utilisateur sans son consentement.

Un détail important sur le fonctionnement de l'outil est que les utilisateurs doivent d'abord vérifier leur identité. Les créateurs souhaitant participer au test doivent se soumettre à un scan de selfie en temps réel et à une vérification de pièce d'identité via une entreprise appelée Jumio, une couche de sécurité conçue pour confirmer que l'outil appartient réellement à cette personne.

Selon Kizer, TikTok ne conserve pas les documents d'identité ni les données faciales ; ces informations sont supprimées une fois le processus de vérification terminé. Ce type de garantie en matière de confidentialité est essentiel pour convaincre les utilisateurs de partager des données biométriques sensibles, le risque de mauvaise utilisation des données de reconnaissance faciale relevant de la même catégorie de problème que celui que l'outil vise à résoudre.

TikTok n'est pas seul dans cette démarche. YouTube travaille sur un outil similaire et l'a récemment rendu disponible à tous les utilisateurs adultes. Le fait que deux grandes plateformes aient développé des outils comparables dans un délai similaire suggère que les faux contenus générés par IA sont devenus un problème partagé et urgent pour les grandes plateformes.

La force motrice derrière ces outils tient au fait que la technologie des deepfakes est devenue à la fois plus accessible et plus convaincante ces dernières années. Des vidéos truquées qui nécessitaient autrefois une expertise technique peuvent désormais être générées en quelques minutes avec des applications grand public, un risque grandissant pour les célébrités, les responsables politiques et les utilisateurs ordinaires.

Les experts rappellent toutefois les limites de ces outils de détection. Un système de recherche de « ressemblance IA » ne peut analyser que le contenu hébergé sur les serveurs de cette plateforme ; si le visage d'un utilisateur est détourné sur une autre plateforme ou dans des applications de messagerie fermées, ces outils n'ont aucune capacité de le détecter.

Malgré cela, la demande pour ce type de fonctionnalité est forte chez les créateurs. Les personnes ayant un large public s'inquiètent en particulier de voir leur visage utilisé sans autorisation pour fabriquer de faux témoignages, des publicités frauduleuses ou du contenu destiné à nuire à leur réputation.

La diffusion de tels outils montre que les plateformes investissent désormais non seulement dans des systèmes réactifs de signalement pour les problèmes de contenu généré par IA, mais aussi dans des systèmes proactifs que les utilisateurs peuvent exécuter eux-mêmes. Cela intervient à un moment où la pression réglementaire et publique sur les plateformes concernant cette question s'intensifie.

L'outil de TikTok reste en phase de test limitée et on ignore quand il pourrait être déployé plus largement, mais la décision de YouTube d'ouvrir sa propre version à tous les utilisateurs adultes laisse penser que TikTok pourrait à terme suivre une voie similaire.