L'IA est utilisée pour ressusciter la voix de pilotes décédés
La diffusion de la technologie de clonage vocal par IA a produit un cas d'usage inattendu et troublant : des internautes recréent la voix de pilotes décédés dans des accidents d'avion à partir des enregistrements de cockpit (transcriptions et extraits audio des enregistreurs phoniques) contenus dans les documents d'enquête sur les accidents. Selon le reportage de TechCrunch, ces contenus se diffusent rapidement sur les plateformes de réseaux sociaux — particulièrement au format vidéo court — sous forme de 'récits dramatisés' des accidents.
La base technique de cette pratique repose sur les outils de synthèse vocale générative qui ont progressé rapidement au cours des trois dernières années. Les modèles capables de cloner la voix d'une personne à partir de quelques secondes d'échantillon audio sont désormais répandus en tant qu'outils gratuits et faciles d'utilisation. Le journaliste de TechCrunch note que ces outils produisent des contenus reconstituant 'les derniers instants d'un accident' à partir des véritables voix de pilotes figurant dans les enregistrements. Bien que ces contenus reposent souvent sur des transcriptions réelles, ils sont parfois prolongés par des dialogues fictifs.
Au centre du débat éthique se trouve la question de la recréation de la voix des défunts sans leur consentement. Pour les familles des pilotes décédés dans des accidents aériens, ces contenus peuvent être particulièrement bouleversants. TechCrunch rapporte que certaines familles ont envoyé des demandes de retrait aux plateformes de réseaux sociaux, mais que les réponses des plateformes ont été incohérentes. Le statut juridique des droits vocaux des défunts n'est pas clairement défini dans la plupart des pays — une ambiguïté qui complique les processus de retrait de contenu.
La disponibilité publique des documents d'enquête sur les accidents fournit la matière première de cette pratique. Aux États-Unis, le National Transportation Safety Board (NTSB) et les agences de sécurité aérienne d'autres pays publient des documents et, dans certains cas, des enregistrements audio pour la transparence des enquêtes. Cette transparence est cruciale pour l'amélioration de la sécurité aérienne ; mais à l'ère de l'IA, de nouveaux usages imprévus de ces documents émergent. Un porte-parole du NTSB a déclaré à TechCrunch que 'la disponibilité publique des documents d'accident est une pierre angulaire de la culture de sécurité aérienne, mais nous sommes préoccupés par les usages irrespectueux de ces documents'.
Les experts en sécurité aérienne avertissent que ces contenus pourraient porter atteinte à la nature sérieuse de l'analyse des accidents. Le consultant indépendant en sécurité aérienne John Cox a déclaré à TechCrunch que 'les enquêtes sur les accidents sont des études rigoureuses et scientifiques menées pour prévenir de futurs accidents ; transformer ces enregistrements en contenu sensationnel est à la fois irrespectueux envers les victimes et préjudiciable à la culture de sécurité aérienne'. Cox a souligné que l'objectif initial des enregistrements de cockpit est 'non pas le blâme mais l'apprentissage'.
La responsabilité des plateformes constitue une autre dimension du débat. Les politiques de contenu des plateformes de réseaux sociaux n'ont pas encore pleinement fixé leurs règles concernant les contenus audio générés par IA. Certaines plateformes ont introduit l'obligation d'étiqueter le 'contenu généré par IA', mais l'application de ces règles est incohérente. TechCrunch rapporte que les créateurs de contenu peuvent facilement contourner ces règles et que la tendance des algorithmes à mettre en avant les contenus à forte intensité émotionnelle accélère la diffusion de ce type de matériel.
Dans une perspective plus large, la 'résurrection' des défunts par l'IA ne se limite pas au domaine de l'aviation. Des pratiques telles que l'utilisation de la voix de musiciens pour de nouvelles chansons après leur mort, le fait de 'ramener à la vie' des figures historiques sous forme de chatbots IA, et la création par des familles d'avatars IA de proches disparus se sont répandues ces dernières années. Chacune de ces pratiques s'inscrit dans un débat juridique et éthique plus large sur la manière dont les droits vocaux et d'image numériques devraient être gérés après la mort.
Le cadre réglementaire est en retard sur ces évolutions. Certains États américains — particulièrement l'ELVIS Act du Tennessee, qui protège les musiciens — ont introduit une protection juridique pour les droits vocaux et d'image des défunts. Mais il n'existe pas encore de cadre complet au niveau fédéral ni à l'international. Les experts juridiques notent que les lois existantes sur le droit d'auteur et les droits de la personnalité ne peuvent répondre pleinement aux nouveaux problèmes créés par l'ère de l'IA.
Le reportage de TechCrunch est un exemple de la manière dont la démocratisation de la technologie — des outils d'IA puissants accessibles à tous — apporte avec elle des problèmes éthiques imprévus. La technologie de clonage vocal peut s'appliquer sur un large spectre, des usages légitimes (accessibilité, doublage, restauration de voix perdues) aux usages nuisibles (fraude, usurpation d'identité, production de contenu sans consentement). Bien que la technologie elle-même soit neutre, tracer les limites éthiques de son usage demeurera un débat de société important dans les années à venir.
Cet article ne constitue pas un avis d'investissement ni juridique ; pour des décisions personnelles ou institutionnelles concernant les technologies vocales d'IA et les droits numériques, il est recommandé de consulter des experts juridiques compétents. TechCrunch a indiqué qu'il suivrait l'évolution des politiques des plateformes concernant les contenus audio générés par IA dans les mois à venir.