De tool, die donderdag live ging, liet gebruikers met tekstcommando’s elementen toevoegen of verwijderen uit satellietfoto’s. Zo kon bijvoorbeeld een fictieve groep vluchtelingen bij de Mexicaanse grens worden gegenereerd, aldus onderzoeker Henk van Ess.
Google gaf geen officiële reden voor de snelle intrekking, maar het bedrijf liet weten dat de functie nog niet klaar was voor gebruik. Gebruikers meldden problemen met de betrouwbaarheid en risico’s op misleidende beelden.
Deze stap benadrukt de spanning tussen technologische innovatie en ethische overwegingen rond deepfake-beeldmateriaal. Het laat zien hoe snel onverwachte toepassingen kunnen ontstaan en waar grenzen moeten worden gesteld.
Bron
Wat dit betekent voor jou
Voor bedrijven die met satellietdata of AI werken, is dit een waarschuwing om dergelijke tools eerst grondig te testen voordat ze breed beschikbaar komen. De combinatie van realistische beelden en AI kan immers snel tot verspreiding van onjuiste informatie leiden. Het is zaak om nu al afspraken te maken over verantwoordelijkheden bij het gebruik van dergelijke technologieën.
Editie 391 · Kort