Google Earth : le générateur d'images IA retiré un jour après son lancement

TL;DR.

Google a désactivé en vingt-quatre heures la fonction qui permettait de modifier les images satellite, aériennes et 3D de Google Earth à partir d'instructions écrites. Lancée jeudi, elle reposait sur le modèle de génération d'images Nano Banana et laissait n'importe quel utilisateur produire, à partir d'une simple phrase, des images crédibles de scènes qui n'ont jamais eu lieu, intégrées dans le contexte cartographique réel avec ses coordonnées et son environnement.

La démonstration qui a déclenché la réaction vient du journaliste Henk van Ess, de Digital Digging. Il a généré des images ajoutant des réfugiés près de la frontière mexicaine et un cratère d'explosion à proximité d'un hôpital à Gaza. Google a d'abord défendu le dispositif avant de faire marche arrière le lendemain. L'épisode illustre un point qui dépasse le cas Google : un garde-fou pensé en amont ne survit pas toujours au premier contact avec les utilisateurs. Il pose aussi la question du statut particulier de l'image satellite, perçue comme une source documentaire dans le journalisme d'investigation, l'assurance, la logistique, l'immobilier ou l'analyse de risques.

Google a lancé jeudi une fonction permettant de modifier les images satellite, aériennes et 3D de Google Earth à partir de simples instructions écrites, via son modèle de génération d'images Nano Banana. Vingt-quatre heures plus tard, la fonction était retirée. Entre les deux, des démonstrations publiques ont montré qu'il suffisait d'une phrase pour produire des images crédibles de scènes qui n'ont jamais eu lieu, superposées à une carte du monde réelle. L'épisode est court, mais il illustre un problème que rencontre toute organisation qui déploie de l'IA générative : un garde-fou pensé en amont ne survit pas toujours au premier contact avec les utilisateurs.

Ce qui s'est passé, dans l'ordre

La fonction permettait à n'importe quel utilisateur d'éditer les images de Google Earth avec un prompt, c'est-à-dire une consigne en langage naturel. Le résultat n'était pas une illustration isolée dans un coin de l'écran : l'image générée venait s'intégrer dans le contexte cartographique réel, avec ses coordonnées, son environnement et son apparence de source documentaire.

La démonstration qui a déclenché la réaction vient du journaliste Henk van Ess, de Digital Digging. Il a délibérément généré des images ajoutant, par exemple, des réfugiés près de la frontière mexicaine, ou un cratère d'explosion à proximité d'un hôpital à Gaza. Deux scènes choisies précisément parce qu'elles ressemblent à ce qu'un lecteur s'attend à voir circuler en période de tension géopolitique.

Google a d'abord défendu le dispositif, avant de faire marche arrière le lendemain et de désactiver la fonction. Le contenu détaillé de cette seconde prise de parole n'est pas précisé dans les éléments disponibles.

Pourquoi l'image satellite est un cas particulier

Une image générée par IA, aujourd'hui, ne surprend plus grand monde. Une image satellite, si. Dans l'imaginaire collectif et dans beaucoup de pratiques professionnelles (journalisme d'investigation, assurance, logistique, immobilier, analyse de risques), la vue aérienne fait office de preuve neutre. Elle est perçue comme une captation mécanique de la réalité, pas comme une production éditoriale.

C'est ce statut de preuve qui pose problème quand la génération devient possible dans l'outil lui-même. Le faux ne circule plus comme un fichier isolé qu'on peut interroger : il apparaît dans l'interface qui sert habituellement à vérifier. La charge de la preuve s'inverse, et le coût de la vérification est reporté sur celui qui reçoit l'image.

La réponse initiale : filigrane numérique et sujets bloqués

Face aux premières images détournées, Google a mis en avant deux garde-fous. D'une part, chaque image créée avec Nano Banana dans Google Earth intègre SynthID, un filigrane numérique invisible à l'œil nu : un utilisateur qui doute d'une image peut interroger l'application Gemini ou passer par Lens dans la recherche pour savoir si elle a été générée par IA. D'autre part, l'entreprise indiquait empêcher la création d'images sur des sujets qualifiés de nocifs.

Les deux dispositifs sont réels, et ils ne sont pas inutiles. Mais ils partagent une même faiblesse : ils supposent une action volontaire de vérification, à un moment donné, par une personne qui a déjà un doute. Or une image de désinformation produit son effet dans les premières heures, en circulant recadrée, recompressée, capturée en photo d'écran, dans des contextes où personne ne va ouvrir une application tierce pour authentifier ce qu'il voit. Quant au filtrage des sujets sensibles, il n'a manifestement pas couvert les cas construits pour la démonstration.

Ce que ça change pour vous

Trois enseignements sont directement transposables si vous déployez ou évaluez des fonctions d'IA générative dans vos produits ou vos processus internes.

Le test d'usage détourné doit précéder le lancement, pas le suivre. Ici, la faille n'est pas technique : la fonction a fonctionné exactement comme prévu. Ce qui manquait, c'est un exercice consistant à confier l'outil à quelqu'un dont le métier est de chercher comment le retourner. Ce type de revue coûte quelques jours ; un retrait public en coûte davantage.

La traçabilité n'est pas un contrôle. Un filigrane, un journal d'audit ou un tag de provenance servent à établir des faits après coup. Ils ne réduisent pas le nombre de contenus problématiques produits. Si votre analyse de risque repose entièrement sur la détectabilité a posteriori, elle protège votre responsabilité juridique, pas vos utilisateurs ni votre réputation.

Le contexte d'affichage fait partie du risque. La même capacité de génération d'images est anodine dans un outil de création visuelle et sensible dans un outil de consultation cartographique. Ce n'est pas la fonction qu'il faut évaluer isolément, mais le couple fonction plus interface : quel niveau de confiance l'utilisateur accorde-t-il par défaut à ce qu'il voit à cet endroit précis ?

Un signal sur le rythme des déploiements

Ce qui frappe dans cet épisode, ce n'est pas seulement le retrait : c'est sa rapidité. Vingt-quatre heures entre l'ouverture au public et la désactivation, sur une fonction manifestement passée par des revues internes chez un acteur qui dispose de moyens considérables en matière de sécurité des modèles.

Cela dit quelque chose du moment actuel : les capacités des modèles génératifs progressent plus vite que la capacité des organisations à anticiper ce que des utilisateurs réels en feront. Pour une entreprise qui intègre ces briques, la conclusion pratique n'est pas de renoncer, mais d'accepter que le cycle de test ne s'arrête pas au lancement, et de prévoir dès le départ le mécanisme qui permet de désactiver proprement une fonction. La question n'est plus seulement de savoir ce qu'un outil sait faire, mais ce qu'il devient une fois entre les mains de quelqu'un qui n'a pas les mêmes intentions que vous.

Questions fréquentes

Qu'est-ce que la fonction de génération d'images retirée de Google Earth ?

Il s'agissait d'une fonction permettant de modifier les images satellite, aériennes et 3D de Google Earth à partir d'un prompt, c'est-à-dire une consigne écrite en langage naturel. Elle reposait sur Nano Banana, le modèle de génération d'images de Google. L'image produite s'intégrait directement dans la carte réelle, avec ses coordonnées et son environnement.

Combien de temps la fonction est-elle restée disponible ?

Vingt-quatre heures. Google l'a lancée jeudi et l'a désactivée le lendemain. Entre les deux, l'entreprise avait d'abord défendu le dispositif avant de faire marche arrière.

Qui a montré que la fonction pouvait fabriquer de fausses scènes d'actualité ?

Le journaliste Henk van Ess, de Digital Digging. Il a délibérément généré des images ajoutant des réfugiés près de la frontière mexicaine et un cratère d'explosion à proximité d'un hôpital à Gaza. Ces deux scènes ont été choisies parce qu'elles ressemblent à ce qu'un lecteur s'attend à voir circuler en période de tension géopolitique.

Pourquoi une image satellite générée par IA pose-t-elle un problème particulier ?

Une image générée par IA ne surprend plus grand monde, contrairement à une image satellite. Celle-ci conserve un statut de source documentaire dans l'imaginaire collectif et dans de nombreuses pratiques professionnelles comme le journalisme d'investigation, l'assurance, la logistique, l'immobilier ou l'analyse de risques. Le fait que l'image générée s'affiche dans le contexte cartographique réel renforce sa crédibilité.

Quelle leçon les organisations qui déploient de l'IA générative peuvent-elles en tirer ?

L'épisode montre qu'un garde-fou pensé en amont ne survit pas toujours au premier contact avec les utilisateurs. La faille n'a pas été identifiée avant le lancement, mais par des démonstrations publiques réalisées en quelques heures. Le retrait rapide de la fonction a été la seule réponse disponible.