Un jour après avoir intégré son modèle Nano Banana 2 à Google Earth, Google a fait marche arrière. En cause : des images inappropriées générées par des utilisateurs à partir de lieux réels.
La semaine dernière, Google annonçait l’intégration de son modèle de génération d’images par intelligence artificielle, Nano Banana 2, à Google Earth. L’entreprise présentait cette fonctionnalité comme un moyen de créer des infographies sur différents lieux du monde, de visualiser des paysages historiques à partir d’images actuelles, ou encore d’imaginer des projets immobiliers, une extension de maison, une résidence de vacances, en les superposant à des décors réels.
Cette annonce s’inscrivait dans une tendance plus large : celle de Google qui intègre ses outils d’intelligence artificielle à l’ensemble de ses produits. La même semaine, l’entreprise ajoutait de nouvelles fonctionnalités Gemini à Google Docs pour les utilisateurs Workspace.
Un retrait en moins de 24 heures
L’intégration n’aura tenu qu’une journée. Google a publié une mise à jour de son annonce initiale, indiquant :
Nous savons que les utilisateurs font confiance à Google Earth pour obtenir une vue fiable du monde. Nous avons observé des professionnels de la géospatiale utiliser cette fonctionnalité à des fins utiles ; cependant, nous avons également vu des utilisateurs partager des captures d’écran d’images générées qui semblent enfreindre nos politiques. Nous retirons donc cette fonctionnalité de Google Earth le temps de mettre en place des garde-fous plus solides. Il est important de noter que les images générées n’apparaissaient pas dans l’expérience principale de Google Earth pour les autres utilisateurs, et qu’elles étaient marquées comme générées par l’IA.
Des images allant au-delà du simple manquement aux règles
Les images produites par certains utilisateurs dépassaient le cadre d’une simple violation des conditions d’utilisation. Parmi celles qui ont circulé sur internet figuraient notamment la représentation d’un avion s’écrasant sur le nouveau World Trade Center à Manhattan, la destruction de la tour Eiffel, ou encore les pyramides d’Égypte s’effondrant dans un gouffre.
D’autres images montraient des réfugiés serrés les uns contre les autres près de la frontière mexicaine, une mise en scène susceptible d’être prise pour une véritable image satellite par des internautes peu avertis.
La fonctionnalité était accessible à tous les utilisateurs de Google Earth, qu’ils aient souscrit ou non aux services IA payants de Google. Il suffisait d’ouvrir l’application et d’affiner une requête jusqu’à obtenir le résultat souhaité.
Une inadéquation entre l’outil et sa nature
La question qui se pose est celle de la pertinence d’intégrer un générateur d’images à un outil comme Google Earth, dont la vocation première est d’offrir une représentation fiable et éducative du monde réel.
L’une des fonctionnalités mises en avant consistait à visualiser un lieu tel qu’il apparaissait dans le passé. Mais Nano Banana 2 ne restituait pas de données historiques réelles : il produisait ce que son entraînement lui permettait de supposer être une représentation historique d’un endroit donné. Une vue de Paris en 1726 générée par l’outil aurait ainsi consisté en une superposition de bâtiments génériques, sans lien avec ce que la ville avait réellement l’air à cette époque. Le résultat relève davantage de l’illustration que du document historique.
Le même problème se pose pour les infographies générées automatiquement. Ces contenus ne sont vérifiés par personne, et certainement pas par des experts. Ils peuvent contenir des inexactitudes ou des informations inventées, sans qu’aucune source ne soit fournie pour permettre à l’utilisateur de vérifier les données. Des utilisateurs pourraient retenir des informations erronées présentées dans un format qui inspire confiance.
La désinformation comme risque principal
Le risque le plus sérieux soulevé par cette intégration est celui de la désinformation. Un utilisateur souhaitant faire croire qu’un événement s’est produit en un lieu précis pouvait générer une image réaliste imitant une vue satellite, puis la partager sur les réseaux sociaux. À une époque où les contenus trompeurs se diffusent rapidement en ligne, un tel outil représentait un vecteur supplémentaire de fausses informations.
Google n’a pas précisé dans quel délai la fonctionnalité pourrait être réintroduite, ni quelles mesures supplémentaires seraient mises en place pour en encadrer l’usage.
