Google backar från AI som ändrar satellitbilder i Google Earth

Google aktiverade under kort tid en funktion i Google Earth som lät användare skapa förändrade versioner av satellit- och flygbilder med hjälp av artificiell intelligens. Efter att exempel på missbruk snabbt började spridas på nätet drogs funktionen tillbaka inom ett dygn. Enligt Ars Technica kombinerade verktyget Google Earths verklighetsbilder med Googles bildgenerator, så att användarens text kunde skriva om scener som många betraktar som ett slags referensunderlag. Google uppgav att man backade efter kritik om hur lätt resultatet kunde användas för att fabricera ”bevis” knutna till konkreta platser.

Händelsen blottlägger den återkommande klyftan mellan vad generativa verktyg kan göra och vad produkten i praktiken är till för. Google Earth är inte bara en karta; det används regelmässigt av journalister, forskare och utredare för att kontrollera platser och tidslinjer. Tjänstens auktoritet bygger på antagandet att bildmaterialet i grunden är dokumentärt. När samma gränssnitt samtidigt erbjuder en knapp för att ”skapa” en ny version av just dessa bilder flyttas bevisbördan: det blir betraktaren som måste visa vad som är äkta, i stället för utgivaren som håller arkivet rent. Det är särskilt känsligt i de användningsfall som Googles egen marknadsföring lutade sig mot, som att visualisera planerade byggprojekt eller återskapa historiska miljöer – verktygets försäljningsargument är just trovärdighet.

Kritiker pekade på att funktionen pressar ned en förfalskningsprocess som tidigare krävde flera steg till några sekunder. Ars Technica nämner att Bellingcats grundare Eliot Higgins delade en bild där en överdimensionerad staty placerats vid Vita huset, och att den oberoende granskaren Henk van Ess beskrev scenarier som att arrangera flyktingar nära Mexikos gräns eller lägga in ett kärnkraftverk i Iran. Det handlar inte om allmänna falska bilder, utan om fabriceringar fastnaglade vid igenkännbara koordinater i en produkt som människor redan använder för att kontrollera påståenden. Google svarade med att hänvisa till sitt vattenmärkningssystem SynthID och sade att bilder som skapats i Google Earth skulle bära märket, som kan kontrolleras med Googles egna verktyg som Gemini-appen eller Lens.

Vattenmärkning bygger dock på att publiken faktiskt kontrollerar, och att kontrollverktygen används av dem som löper störst risk att bli vilseledda. Det förutsätter också att bilden förblir intakt när den sprids via sociala plattformar, skärmbilder, beskärningar och återuppladdningar – just den kedja där sammanhang och ursprung ofta försvinner. Tillbakadragandet tyder på att Google bedömde att metadata om ursprung inte räckte för att skydda Earths kärnnytta som ett slags halvoffentligt referensbibliotek.

Googles produktansvarige presenterade funktionen i ett blogginlägg den 30 juli. När Ars Technica testade efter beskedet om tillbakadragandet var knappen redan borta.