Google coupe son IA Earth après la fronde des deepfakes

Google coupe son IA Earth après la fronde des deepfakes

Google a désactivé une nouvelle fonction d’intelligence artificielle dans Google Earth seulement un jour après son lancement, selon TechCrunch. L’outil permettait de générer ou de modifier, à l’aide de requêtes textuelles, des images fondées sur les vues satellites, aériennes et en trois dimensions disponibles dans le service cartographique de Google. Son retrait intervient après une vague de critiques centrées sur un risque particulièrement sensible : la fabrication de fausses preuves visuelles à partir de cartes et de représentations du territoire que beaucoup d’utilisateurs considèrent, par défaut, comme documentaires.

La distinction est essentielle. Les générateurs d’images ont déjà installé dans le débat public l’idée qu’une photographie réaliste ne constitue plus nécessairement une preuve. Mais Google Earth n’est pas perçu comme un simple espace de création visuelle. Le produit est associé à l’observation de lieux réels, à la consultation de bâtiments, de routes, de paysages et d’infrastructures à travers des images satellites, aériennes ou modélisées. En y intégrant un outil capable d’altérer directement ces scènes, Google touchait à un autre niveau de confiance : celui accordé à une interface qui prétend représenter le monde.

Le problème soulevé par les critiques ne tient donc pas seulement à la qualité potentielle des images produites. Il découle de leur contexte de présentation. Une image synthétique créée sur un outil artistique est généralement comprise comme une production. Une image qui semble issue d’une vue Earth, placée dans un environnement graphique connu, peut plus facilement être prise pour une observation authentique, un relevé récent ou une capture montrant un événement réel.

La décision de Google constitue un revers inhabituellement rapide pour une fonction d’IA intégrée à un grand produit grand public. Le retrait ne signifie pas à lui seul que toute génération visuelle liée à la cartographie est impossible à sécuriser. Il montre en revanche que les mécanismes de modération habituels, souvent pensés pour des images isolées, ne répondent pas automatiquement aux risques posés par la manipulation de représentations géographiques. Une route modifiée, un bâtiment endommagé ajouté, un campement artificiel, une zone inondée inventée ou une infrastructure effacée peuvent être interprétés différemment selon qu’ils apparaissent dans une illustration, dans un fil de réseau social ou dans une vue associée à un service géospatial de référence.

Pour les acteurs de l’information, de la recherche, de la sécurité, de l’aide humanitaire ou encore de l’analyse financière, les outils cartographiques sont devenus des sources parmi d’autres pour observer des transformations du terrain. Ils ne remplacent pas les vérifications indépendantes, les données brutes, les sources locales ou l’expertise géospatiale. Mais leur force repose sur une promesse implicite de continuité avec le réel. C’est précisément cette promesse qui devient fragile lorsque la modification générative se superpose à l’imagerie géographique.

La nouvelle rapportée par TechCrunch dépasse donc le cas d’une fonctionnalité retirée. Elle dessine une frontière plus nette entre deux usages de l’IA générative : inventer une image plausible, et transformer une représentation du réel dans un cadre conçu pour l’explorer. Dans le second cas, le risque n’est pas seulement l’apparition d’un contenu trompeur. C’est l’érosion de la confiance dans l’outil qui l’héberge et, plus largement, dans les indices visuels employés pour vérifier les faits.

Google Earth, d’outil de visualisation à infrastructure de confiance

Google Earth occupe une place particulière dans l’histoire des services numériques. Lancé en 2005, le produit a popularisé auprès d’un public mondial une navigation fluide entre le globe, les images satellites, les vues aériennes et les modèles en trois dimensions. Sa diffusion a accompagné une banalisation des usages cartographiques sur internet : préparer un trajet, visualiser un quartier, comparer l’évolution apparente d’un territoire, retrouver la configuration d’un lieu ou comprendre l’environnement immédiat d’une adresse.

Cette familiarité compte. Pour une grande partie du public, la carte numérique n’est pas seulement une base de données ou une représentation abstraite. Elle est une fenêtre sur le monde. Le niveau de précision apparent, la possibilité de zoomer et le rapprochement entre photographies, contours, noms de lieux et repères géographiques renforcent cette impression de réalité. Les utilisateurs savent généralement qu’une image peut être ancienne, incomplète ou prise sous un angle limité. Ils ne pensent pas nécessairement qu’un élément central de la scène a pu être ajouté ou retiré par une IA à partir d’une instruction textuelle.

Les plateformes géographiques ont pourtant toujours été des objets éditoriaux et techniques. Elles dépendent de prises de vue réalisées à des dates différentes, de traitements d’assemblage, de mises à jour variables selon les zones et de choix de représentation. Une vue satellite ne constitue pas une vision continue, instantanée et exhaustive du territoire. Une modélisation en trois dimensions n’est pas non plus une copie parfaite de chaque bâtiment. Ces limites sont connues des spécialistes, mais elles sont moins visibles pour le grand public, notamment lorsque l’interface est familière et que les images paraissent détaillées.

L’arrivée d’une fonction de génération et de retouche par prompt ajoute une rupture de nature. Les traitements classiques de l’image géographique peuvent améliorer l’affichage, corriger des raccords ou organiser des données. Une modification générative peut, elle, produire des éléments qui n’ont jamais été capturés. Elle ne se contente pas de présenter différemment une source existante : elle peut créer une scène visuellement cohérente avec celle-ci. Dans un environnement cartographique, cette cohérence est précisément ce qui rend le risque de confusion plus important.

La critique rapportée par TechCrunch est ainsi moins une objection abstraite à l’IA qu’une interrogation sur l’adéquation entre une capacité et son contexte. Modifier une image à partir d’un prompt peut servir à la création, à la simulation ou au prototypage. Mais lorsqu’une image de départ correspond à un lieu identifiable, l’outil peut faire basculer une représentation référentielle vers une représentation hypothétique sans que cette transition soit forcément lisible au premier regard.

Cette différence est cruciale dans des situations où l’image géographique devient un objet de débat public. Les catastrophes naturelles, les conflits, les manifestations, les chantiers, les installations industrielles, les frontières ou les infrastructures de transport donnent régulièrement lieu à la circulation de captures d’écran, de comparaisons avant-après et d’analyses visuelles. Les experts qui travaillent sur ces sujets disposent de méthodes : identification de la date, comparaison de plusieurs sources, analyse des ombres, lecture des métadonnées lorsqu’elles existent, confrontation avec des images indépendantes. Mais une grande partie des contenus viraux échappe à ces procédures.

Une capture isolée d’un service réputé peut circuler beaucoup plus vite que son démenti. L’interface elle-même devient alors un argument d’autorité. Le logo, le nom du lieu, l’échelle, la boussole ou l’apparence reconnaissable d’un produit peuvent suffire à convaincre. L’enjeu ne se limite donc pas à savoir si une image est techniquement réaliste. Il est aussi de savoir quel système de signes l’accompagne et quelles habitudes de confiance il mobilise.

Cette dynamique explique la vigueur des réactions. Le débat sur les deepfakes est souvent associé aux portraits de personnes, aux vidéos truquées, aux voix clonées ou aux fausses déclarations attribuées à des responsables politiques. La fonction retirée de Google Earth faisait apparaître un autre type de deepfake : un faux attaché à un espace réel, présenté dans un environnement numérique historiquement conçu pour le localiser et le visualiser.

Une capacité de retouche qui change la nature de la preuve visuelle

D’après la description de TechCrunch, la fonction permettait de modifier par prompt des vues satellites, aériennes et en trois dimensions issues de Google Earth. Cette formulation suffit à expliquer la difficulté. Le langage naturel abaisse considérablement la barrière technique : il n’est plus nécessaire de maîtriser un logiciel spécialisé de retouche, des techniques de compositing ou la modélisation 3D pour demander une transformation. Plus l’instruction est simple, plus le nombre potentiel d’utilisateurs capables de produire une image trompeuse augmente.

La génération d’images n’est pas intrinsèquement frauduleuse. Elle peut servir à imaginer un projet urbain, à illustrer une hypothèse, à concevoir une expérience éducative ou à tester une mise en scène. Ces usages supposent toutefois que la nature simulée du résultat demeure claire. Dans le cas d’une représentation géographique, la frontière entre visualisation prospective et représentation factuelle doit être particulièrement visible, car la même image peut être interprétée comme une prévision, une illustration ou une preuve.

Le risque évoqué par les détracteurs consiste à fabriquer des scènes qui semblent documenter une réalité. Une retouche appliquée à un lieu existant peut produire un faux d’un genre différent d’une image entièrement inventée. Elle tire parti de détails authentiques : la forme d’un quartier, le tracé d’une route, le relief, l’emplacement de bâtiments ou les couleurs du paysage. Ces éléments vrais donnent à la modification une assise visuelle. La partie falsifiée peut alors sembler s’intégrer naturellement à un environnement qui, lui, est reconnaissable.

Les usages malveillants potentiels ne doivent pas être présentés comme des faits déjà établis par le lancement de la fonction. La source fournie rapporte des critiques et un retrait rapide, non une liste d’incidents documentés. Mais les scénarios redoutés sont faciles à comprendre : faire croire à des destructions qui n’ont pas eu lieu, simuler une présence militaire ou industrielle, inventer l’extension d’un incendie, présenter une modification urbaine fictive comme achevée, ou créer une image susceptible d’alimenter une rumeur locale. Dans tous ces cas, le dommage naît de l’écart entre l’apparence documentaire du support et la nature synthétique de la modification.

La notion de « preuve visuelle » mérite ici d’être maniée avec précision. Une image satellite, même authentique, n’est jamais une preuve autosuffisante de toutes les affirmations qu’on peut lui faire dire. Elle doit être datée, contextualisée et confrontée à d’autres éléments. Une zone sombre peut avoir plusieurs causes, un objet peut être difficile à identifier, une prise de vue peut être ancienne. Mais l’existence de ces précautions ne rend pas la falsification générative anodine. Au contraire, elle augmente la charge de vérification pour les journalistes, les chercheurs, les organisations de fact-checking et les citoyens.

La difficulté est aussi collective. Lorsqu’un faux est démontré, la correction ne rétablit pas toujours la confiance initiale. Certaines personnes peuvent continuer à croire l’image, tandis que d’autres en tirent la conclusion inverse : puisque des vues peuvent être manipulées, aucune image n’est fiable. Ce phénomène est parfois désigné comme le « dividende du menteur » : la disponibilité de contenus synthétiques peut aider à jeter le doute sur des documents authentiques. Dans le domaine géospatial, où l’imagerie est régulièrement mobilisée pour établir ou contester des faits, cet effet peut être particulièrement dommageable.

Google se trouve ainsi face à une question qui dépasse la seule détection de requêtes abusives. Interdire certains prompts peut limiter des usages explicites, mais ne suffit pas forcément à empêcher des contournements ou des demandes ambiguës. Ajouter un marquage visuel peut aider, mais encore faut-il qu’il résiste aux recadrages, aux captures d’écran et aux republications. Fournir des métadonnées est utile, mais elles peuvent être supprimées lorsque le fichier passe par certaines plateformes ou applications. Aucun mécanisme pris isolément ne transforme une image générative en document vérifiable.

Le retrait au bout d’un jour suggère que Google a jugé le rapport entre l’utilité attendue de la fonction et les risques de perception suffisamment problématique pour interrompre sa disponibilité. TechCrunch ne présente pas cet épisode comme le résultat d’un long processus réglementaire ou d’une décision judiciaire. Il s’agit d’un recul rapide face à une critique publique portant sur la désinformation. Cette temporalité est révélatrice : la réputation d’un produit de référence peut être mise en jeu avant même que les usages ne se stabilisent.

Provenance, étiquetage et régulation : des garde-fous encore incomplets

L’affaire Earth ramène au premier plan la question de la provenance des contenus. Pour une image, la provenance désigne la possibilité de comprendre d’où elle vient, comment elle a été produite, quelles transformations elle a subies et qui est à l’origine de sa diffusion. Dans le journalisme comme dans la recherche, cette chaîne est essentielle. Dans les environnements numériques grand public, elle est pourtant souvent difficile à préserver, notamment parce qu’une image peut être téléchargée, copiée, recadrée, compressée ou rediffusée en quelques secondes.

Les entreprises technologiques travaillent sur des solutions de marquage et d’authentification. Google a notamment présenté SynthID, une technologie de filigrane destinée à identifier certains contenus générés par l’IA. D’autres initiatives, dont la Coalition for Content Provenance and Authenticity, ou C2PA, cherchent à établir des standards techniques permettant d’attacher des informations de provenance à des médias. Ces dispositifs répondent à un besoin réel, mais ils ne règlent pas mécaniquement le problème soulevé par une retouche d’image dans un produit cartographique.

Un filigrane peut être robuste dans certaines conditions sans être immédiatement visible par le public. Une information de provenance peut rester attachée à un fichier original tout en étant perdue lors d’une capture d’écran. Un label peut signaler qu’une image a été générée, mais il faut encore que les utilisateurs le voient, le comprennent et ne puissent pas facilement l’extraire du contexte. Surtout, un système de provenance ne répare pas forcément le trouble créé lorsqu’une image synthétique a déjà été présentée comme un document authentique.

Le cas de Google Earth met également en évidence une distinction entre l’étiquetage d’un contenu et l’étiquetage d’un environnement. Dans une application de création visuelle, l’utilisateur s’attend à manipuler des images. Dans une application cartographique, il peut s’attendre à consulter des données géographiques. Si des scènes synthétiques y sont introduites, le signalement ne devrait pas seulement concerner le résultat final. Il devrait aussi rendre explicite, tout au long de l’expérience, que l’utilisateur quitte le registre de l’observation pour entrer dans celui de la simulation ou de la création.

Cette question concerne directement les régulateurs européens. L’Union européenne a choisi, avec l’AI Act, une approche fondée notamment sur les risques, comprenant des obligations de transparence pour certains contenus générés ou manipulés par l’intelligence artificielle. Le texte européen ne peut pas, à lui seul, éliminer les usages trompeurs. Il fournit cependant un cadre qui oblige les fournisseurs et les déployeurs concernés à s’interroger sur l’information donnée au public lorsque l’IA génère ou altère des contenus susceptibles d’être confondus avec le réel.

En France, le débat se situe au croisement de plusieurs préoccupations : lutte contre la désinformation, protection du débat démocratique, sécurité des territoires, responsabilité des plateformes et éducation aux médias. Les institutions, les rédactions et les entreprises utilisent déjà des cartes, des photographies aériennes et des données géographiques. Une technologie facilitant la falsification de ces représentations peut donc concerner aussi bien une rumeur de quartier qu’une campagne de manipulation plus structurée.

Les cadres juridiques restent néanmoins difficiles à appliquer lorsque le contenu circule hors de l’outil où il a été produit. Une plateforme peut intégrer un avertissement ; une autre peut héberger une capture sans conserver cet avertissement ; un utilisateur peut ensuite la transmettre via une messagerie. La régulation rencontre ici la fragmentation structurelle du web. Le fournisseur initial ne contrôle pas tous les usages secondaires, mais sa conception du produit conditionne le degré de facilité avec lequel un contenu ambigu peut être créé et exporté.

La réaction de Google invite aussi à ne pas réduire la sécurité à la modération a posteriori. Dans de nombreux services numériques, l’approche consiste à publier une fonction puis à retirer les contenus problématiques au fil des signalements. Or, la falsification de vues géographiques pose un problème en amont : certaines capacités peuvent être trop facilement détournées parce qu’elles s’appliquent directement à un matériau perçu comme réel. Le choix de produit, l’interface, la séparation entre données authentiques et scènes synthétiques, les restrictions d’exportation et la conservation des traces de modification sont alors aussi importants que le filtrage des prompts.

Ce point est particulièrement pertinent pour les entreprises qui commercialisent ou intègrent des outils d’IA en Europe. La conformité ne peut pas être pensée uniquement comme une liste de mentions légales ou une couche de transparence ajoutée après coup. Elle dépend de la manière dont une fonctionnalité est présentée, du niveau de confusion raisonnablement prévisible et de l’importance sociale du service auquel elle est rattachée. Une retouche générative dans un logiciel de divertissement et une retouche générative dans un outil de cartographie ne soulèvent pas les mêmes attentes de prudence.

Une alerte pour les plateformes, les médias et le marché francophone de l’IA

Le retrait de la fonction Earth intervient dans un marché où les grands groupes technologiques cherchent à intégrer l’IA générative dans des produits existants plutôt qu’à la réserver à des interfaces spécialisées. Cette stratégie est compréhensible : les services déjà connus apportent une audience, des données, des habitudes d’usage et un contexte concret à l’assistant ou au générateur. Mais elle déplace aussi les risques. L’IA n’est plus seulement une destination identifiée comme telle ; elle devient une couche de transformation intégrée à des outils de recherche, de communication, de création ou de navigation.

Dans le cas de la cartographie, la valeur d’usage est forte. Les collectivités, urbanistes, entreprises immobilières, acteurs du tourisme, services d’urgence, chercheurs, enseignants et citoyens s’appuient sur des représentations spatiales. La possibilité de visualiser un aménagement hypothétique ou de produire des simulations peut paraître utile. Toutefois, une plateforme qui associe sans séparation nette données réelles et modifications synthétiques risque d’installer un doute durable sur les images qu’elle diffuse.

Pour les rédactions francophones, l’épisode rappelle que la vérification d’une image géographique ne peut pas se limiter à reconnaître l’interface d’un service. Une capture présentée comme issue de Google Earth doit être considérée comme un élément à authentifier, particulièrement lorsqu’elle soutient une affirmation spectaculaire ou politiquement sensible. Il faut rechercher la date de l’imagerie, vérifier si la vue existe dans le service, comparer avec d’autres sources et, lorsque cela est possible, remonter au fichier ou au lien d’origine plutôt que de travailler sur une image repostée.

Cette discipline ne relève pas uniquement du journalisme d’investigation. Les médias locaux sont eux aussi concernés. Une fausse vue pouvant sembler montrer la construction d’un site industriel, la dégradation d’un monument, l’apparition d’une décharge ou l’évolution d’un chantier peut alimenter rapidement des discussions locales. Dans ces situations, la proximité géographique augmente parfois la crédibilité : les habitants reconnaissent des rues, des bâtiments ou un relief, et peuvent donc accorder leur confiance à une image dont seul un élément a été artificiellement ajouté.

Les entreprises françaises et européennes développant des outils visuels ou géospatiaux peuvent tirer une leçon plus large de cette controverse. La question n’est pas de savoir s’il faut renoncer à toute visualisation générative. Elle est de distinguer rigoureusement les usages de simulation, de conception et d’analyse des usages où le produit risque d’être interprété comme une source d’observation. Une visualisation prospective d’un projet urbain n’a pas la même fonction qu’une vue censée décrire l’état actuel d’un quartier. Mélanger les deux sans signalétique forte crée un risque pour l’utilisateur comme pour le fournisseur.

Le marché européen dispose d’atouts dans ce domaine : expertise géospatiale, recherche publique, entreprises spécialisées dans l’observation de la Terre, pratiques institutionnelles autour de la donnée et cadre réglementaire exigeant. Mais ces atouts ne dispensent pas d’un effort de conception. Les produits destinés aux professionnels devront notamment clarifier l’origine de chaque couche visuelle, conserver les informations sur les transformations et permettre de différencier les données observées, les données inférées et les simulations.

La comparaison avec les annonces concurrentes en matière d’IA générative doit rester prudente. Les principaux fournisseurs de modèles et de plateformes ont multiplié les outils de création d’images, de vidéo et de retouche assistée. Leur point commun est d’accélérer la production de contenus visuels plausibles. La particularité de Google Earth, telle que décrite par TechCrunch, résidait dans l’application de cette capacité à des vues géographiques issues d’un service mondialement reconnu. C’est cette association qui a transformé une fonction de retouche en sujet de désinformation potentielle.

À long terme, le débat pourrait conduire à une segmentation plus forte des produits. D’un côté, des environnements de simulation clairement identifiés, utiles pour l’architecture, l’urbanisme, l’éducation ou la prospective. De l’autre, des services de consultation de données et d’images du monde réel, dans lesquels toute intervention générative serait soit exclue, soit séparée de façon explicite et vérifiable. Entre les deux, de nombreuses zones grises subsisteront : amélioration d’image, reconstitution, interpolation, modèles 3D, représentations historiques ou prévisions de changement climatique.

Le retrait express de Google ne clôt pas cette discussion ; il l’accélère. À mesure que l’IA générative s’insère dans les outils de référence, le sujet central ne sera plus uniquement la capacité à produire des faux convaincants. Il deviendra la capacité des plateformes à préserver les conditions qui permettent encore de reconnaître ce qui relève d’une observation, d’une interprétation et d’une simulation. Pour Google comme pour l’ensemble du secteur, la confiance ne dépendra pas seulement de la puissance des modèles. Elle dépendra de l’architecture des produits, de la traçabilité des transformations et de la clarté avec laquelle les services indiqueront où s’arrête la carte du monde réel et où commence son altération algorithmique.