Que sont les applications « nudify », et pourquoi Apple et Google sont sommés de les retirer ?

Les applications dites « nudify » utilisent l'intelligence artificielle pour transformer une photo ordinaire d'une personne en une image fabriquée la faisant apparaître nue. Ces applications servent à créer des images intimes non consenties, et leurs cibles sont majoritairement des femmes et des adolescentes.

Le procureur de la ville de San Francisco, David Chiu, a envoyé des lettres officielles à Apple et Google affirmant que les deux entreprises savent depuis longtemps qu'elles hébergent dans leurs boutiques des applications qui enfreignent la loi de l'État. Ces lettres exigent que les entreprises retirent ces applications de leurs plateformes.

En vertu de la loi californienne, la création et la diffusion d'images intimes non consenties, réelles ou générées par IA, sont explicitement interdites. Les lettres de Chiu font valoir qu'en continuant à proposer ces applications dans leurs boutiques, Apple et Google facilitent effectivement les violations de cette loi par les utilisateurs.

La présence de ces applications dans des boutiques officielles peut sembler surprenante à première vue, car Apple comme Google appliquent des règles strictes interdisant le contenu sexuel explicite. Mais de nombreuses applications nudify sont répertoriées sous des catégories comme « retouche photo » ou « divertissement », masquant leur véritable fonction durant le processus d'examen.

Ce n'est pas la première fois qu'une collectivité locale agit contre ce type d'applications. Ces dernières années, des cas ont été signalés dans des écoles aux États-Unis et ailleurs, où des élèves ont été ciblés par ces applications, les images obtenues étant ensuite diffusées parmi leurs camarades, des incidents qui ont accru l'attention du public et des régulateurs sur cette question.

Les experts affirment que ces applications peuvent causer un préjudice psychologique grave, en particulier dans les cas touchant des mineurs. Même lorsque les images sont connues pour être fabriquées, leur diffusion peut représenter une menace réelle pour la réputation et la sécurité des victimes, certains cas ayant conduit à des procédures disciplinaires scolaires, voire à des enquêtes pénales.

Les processus de modération des boutiques d'Apple et de Google couvrent des millions d'applications, et les deux entreprises reconnaissent que les applications de manipulation d'images assistées par IA se sont multipliées rapidement, rendant de plus en plus difficile la détection préalable de leur potentiel de dérive. Les entreprises affirment retirer les applications une fois les violations signalées, mais les critiques estiment que cette approche reste largement réactive.

Des mesures juridiques sont également prises au niveau fédéral aux États-Unis ; des lois criminalisant la diffusion d'images intimes non consenties, y compris générées par IA, sont entrées en vigueur ces dernières années. L'initiative de San Francisco est perçue comme une tentative de faire appliquer ce cadre fédéral à l'échelle locale.

On ne sait pas encore précisément comment Apple et Google répondront à ces lettres, bien que les deux entreprises aient déjà retiré des applications problématiques de leurs boutiques par le passé sous une pression publique similaire. Le bureau de Chiu a indiqué qu'il pourrait engager des poursuites judiciaires supplémentaires si les entreprises ne répondaient pas.

Cette évolution s'inscrit dans une tendance plus large où la responsabilité des boutiques d'applications en matière de modération de contenu est de plus en plus remise en question à mesure que les outils de génération d'images par IA se répandent rapidement, et elle montre les régulateurs tenter de pousser les entreprises technologiques à agir de manière préventive plutôt qu'uniquement après le dépôt de plaintes.