Google heeft per direct de nieuwe AI-bewerkingsmogelijkheden uit Google Earth gehaald. De internetgigant voegde de beeldfunctie pas een dag eerder toe aan het programma. Gebruikers konden via simpele tekstopdrachten satellietbeelden en luchtfoto’s ingrijpend veranderen. Het bleek al snel kinderspel om schadelijke misinformatie te fabriceren, zoals het toevoegen van grote bomkraters of zware auto-ongelukken op bestaande wegen.
Misbruik van satellietbeelden
De snelle ingreep volgt na signalen dat internetgebruikers de AI-technologie massaal misbruikten om nepinformatie te verspreiden. Google ontdekte dat de gemaakte creaties de eigen beleidsregels schonden. Hoewel de bewerkte foto’s alleen binnen de persoonlijke interface zichtbaar waren, bleken screenshots buiten het platform niet van echt te onderscheiden. Onderzoekers trokken direct aan de bel. Zij vreesden dat kwaadwillenden deze nepbeelden via sociale media zouden inzetten als actueel bewijsmateriaal bij rampen of conflicten.
Geen betrouwbaar beeld
De ingetrokken update was oorspronkelijk bedoeld voor educatieve doeleinden. Gebruikers moesten zo kunnen zien hoe de historische stad Pompeï er vroeger uitzag of hoe een braakliggend terrein zou veranderen in een modern winkelcentrum. De techgigant stelt dat het publieke vertrouwen in de app als betrouwbare weergave van de werkelijkheid vooropstaat.
De bewerkingsoptie tastte dat fundament te veel aan. De ingebouwde watermerken van het SynthID-beveiligingssysteem boden onvoldoende bescherming, aangezien deze markeringen eenvoudig weg te snijden waren.
Betere beveiliging
De integratie met het krachtige AI-beeldmodel Nano Banana 2 verdwijnt niet definitief in de prullenbak. De techorganisatie benadrukt dat de maatregel van tijdelijke aard is. Achter de schermen werken programmeurs momenteel aan stevigere digitale vangrails om ongewenste beeldmanipulatie onmogelijk te maken.
Bekende online onderzoekers zoals Henk van Ess lieten vooraf al zien dat de beloofde beveiliging simpel te omzeilen was. Zij slaagden er moeiteloos in om gevaarlijke beelden te genereren. Wanneer de bewerkingsknop met betere beveiliging terugkeert naar de satellietdienst, is nog onbekend.