Meta introduceert vanaf deze maand Content Seal, een technologie die afbeeldingen gegenereerd door het bedrijf zijn nieuwe AI-modellen automatisch voorziet van een onzichtbaar watermerk. Dit moet helpen om nepnieuws en misleidende content sneller te herkennen en te beperken op sociale media. De Oversight Board van Meta riep het bedrijf eerder op om eigen tools in te zetten voor dit doel, aldus de organisatie zelf in een statement.
De watermerken zijn niet zichtbaar voor gebruikers maar wel detecteerbaar door Meta’s systemen en externe partijen die samenwerken met het bedrijf. Hiermee volgt Meta een trend waarbij techbedrijven zelf actief bijdragen aan het markeren van synthetische content, in plaats van alleen op externe oplossingen te vertrouwen. Het systeem werkt momenteel alleen voor beelden maar zou later kunnen worden uitgebreid naar video en tekst.
Critici wijzen erop dat dergelijke systemen nog steeds omzeild kunnen worden door kwaadwillenden, bijvoorbeeld door de beelden eerst te bewerken voordat ze worden gedeeld. Toch hoopt Meta met Content Seal de betrouwbaarheid van content op haar platformen te vergroten en de druk op moderators te verminderen.
Bron
Wat dit betekent voor jou
Voor bedrijven die afhankelijk zijn van sociale media voor hun merkcommunicatie wordt het steeds belangrijker om rekening te houden met de authenticiteit van content. Het is verstandig om nu al afspraken te maken over hoe om te gaan met door AI gegenereerde materialen in campagnes of klantcommunicatie. Bedrijven die zelf transparantie bieden over het gebruik van AI, kunnen hiermee vertrouwen opbouwen bij hun doelgroep.
Editie 371 · Kort