Google retire son nouvel outil d'IA pour Google Earth un jour après son lancement, face au tollé sur les fausses images

Le mandat de Google avec sa toute nouvelle fonctionnalité Earth aura été l'un des plus courts de l'histoire du produit : un outil de génération d'images par IA intégré à Google Earth a été retiré à peine un jour après son lancement, à la suite d'une vague de critiques mettant en garde contre la facilité déconcertante avec laquelle l'outil permettait de créer de fausses images convaincantes superposées à des lieux réels et identifiables.

La fonctionnalité permettait aux utilisateurs de saisir une invite textuelle décrivant une scène, puis de générer une image par IA et de la superposer directement sur de véritables images satellite et de vue de rue au sein de l'interface cartographique de Google Earth. En principe, l'outil était présenté comme une fonctionnalité créative ou illustrative, permettant aux utilisateurs de visualiser des scénarios hypothétiques dans des lieux réels. En pratique, les critiques ont rapidement démontré à quel point il était facile de l'utiliser pour générer des images représentant des incendies, des inondations, des manifestations, des activités militaires ou d'autres événements spectaculaires à des adresses précises et réelles, indiscernables au premier regard d'une photographie authentique liée à cet endroit exact.

Ce qui rendait cet outil particulièrement sensible tenait à la réputation même de Google Earth en matière d'autorité et de vérifiabilité. Les utilisateurs et les journalistes traitent régulièrement les images de Google Earth et Google Maps comme une référence fiable, précisément parce qu'elles sont censées refléter de vraies données satellite et de vue de rue plutôt que du contenu généré. Superposer des images générées par IA au sein de cette même interface, même dans un but créatif, risquait de brouiller une distinction dont l'utilité de la plateforme a longtemps dépendu : la différence entre ce à quoi ressemble réellement un lieu et ce à quoi quelqu'un a imaginé qu'il pourrait ressembler.

Les critiques ont rapidement signalé des risques précis après le lancement : des images fabriquées prétendant montrer une catastrophe naturelle à une adresse réelle, susceptibles de tromper des personnes cherchant des nouvelles de proches pendant une véritable urgence ; de fausses scènes de manifestation ou de troubles devant des bâtiments gouvernementaux ou des ambassades, pouvant circuler durant des périodes de tension politique réelle ; et des représentations truquées d'infrastructures comme des barrages, des centrales électriques ou des installations militaires, ce que des chercheurs en sécurité ont signalé comme pouvant compliquer le travail de renseignement en sources ouvertes, qui repose sur l'authenticité présumée des images de type satellite.

La décision de Google de retirer la fonctionnalité à peine vingt-quatre heures après son lancement se distingue par sa rapidité, comparée à la façon dont l'entreprise, et le secteur technologique plus largement, a souvent traité les critiques visant des fonctionnalités d'IA par le passé. Des outils d'IA contestés sont fréquemment restés en ligne pendant des semaines, voire des mois, le temps qu'une entreprise recueille des données, publie des déclarations défendant les garde-fous de la fonctionnalité, ou déploie des restrictions progressives plutôt qu'un retrait complet. Ce revirement quasi immédiat suggère que l'évaluation interne des risques de Google a rapidement conclu que le potentiel de désinformation l'emportait sur l'avantage créatif de la fonctionnalité, plutôt que d'attendre de voir comment les critiques évolueraient.

Cet épisode s'inscrit dans un schéma plus large et récurrent au sein du secteur de l'IA ces dernières années : des outils génératifs lancés avec une réelle valeur créative ou de productivité, mais qui comportent néanmoins un usage secondaire évident pour fabriquer du faux contenu convaincant, une tension qui ressurgit sans cesse à mesure que les outils de génération d'images et de vidéos par IA gagnent en netteté et en accessibilité. Des préoccupations similaires ont façonné des restrictions ou des retraits de fonctionnalités d'IA sur d'autres grandes plateformes, dès lors que le réalisme du contenu généré franchissait un seuil rendant la fabrication difficile à détecter pour un spectateur moyen.

Google n'a pas précisé s'il prévoyait de relancer une version modifiée de l'outil avec des garde-fous supplémentaires, tels qu'un filigrane visible sur les superpositions générées par IA, des restrictions sur les lieux pouvant servir d'image de base, ou des limites sur les types de scènes que les utilisateurs peuvent générer. Des entreprises dans des situations similaires sont parfois revenues des mois plus tard avec une version techniquement proche mais visiblement étiquetée d'une fonctionnalité suspendue, traitant l'étiquetage lui-même comme la principale correction plutôt que de restreindre la capacité de génération sous-jacente.

Cet incident alimente un débat en cours dans le secteur de l'IA sur l'endroit où devrait se situer la responsabilité en cas de mauvais usage : chez la plateforme qui a conçu et déployé la capacité générative, chez l'utilisateur qui choisit de créer et de partager une image trompeuse, ou chez les plateformes où une image fabriquée pourrait finir par circuler sans son contexte cartographique d'origine. Le quasi-instantané revirement de Google Earth suggère que l'entreprise a jugé que, dans ce cas précis, le risque d'un faux convaincant lié à des coordonnées réelles était trop immédiat et trop facilement prévisible pour être laissé à une modération en aval.

Pour Google, cet épisode rappelle aussi les enjeux de réputation attachés à des produits construits sur des décennies de confiance accumulée. Google Earth et Google Maps occupent un rôle par défaut, en arrière-plan, dans la façon dont des millions de personnes vérifient des affirmations sur le monde physique, une position qui a rendu le risque de désinformation lié à cette fonctionnalité particulière plus lourd de conséquences qu'un outil similaire intégré à un produit moins réputé ou moins largement utilisé.

Que Google revienne ou non sur cette fonctionnalité, l'épisode est déjà devenu une référence dans les débats plus larges sur l'IA générative et les outils cartographiques : un rappel que l'ajout de la génération d'images par IA à une plateforme dont toute la proposition de valeur repose sur la représentation fidèle de lieux réels comporte un profil de risque différent, et sans doute plus élevé, que l'ajout de la même capacité à une application créative généraliste.