Een team van onderzoekers ontdekte dat een netwerk van nepgebruikers maandenlang actief was op Hugging Face, ondanks waarschuwingen van gebruikers. De fraudeurs maakten gebruik van het Chinese taalmodel GLM 5.2 om realistische accounts aan te maken en automatische reacties te genereren, aldus de onderzoekers.
Het model reageerde niet alleen op berichten, maar genereerde ook code en documentatie die de geloofwaardigheid van de nepaccounts versterkte. Hierdoor konden de fraudeurs maandenlang ongemerkt blijven opereren, totdat een externe partij de activiteiten ontdekte en naar buiten bracht.
Hugging Face heeft sindsdien maatregelen genomen om dergelijke activiteiten tegen te gaan, maar het incident toont aan hoe kwetsbaar open platforms zijn voor misbruik door geavanceerde AI-tools.
Bron
Wat dit betekent voor jou
Dit soort fraude is geen uitzondering meer: ondernemers en bedrijven moeten zich realiseren dat open platforms steeds vaker doelwit zijn van georganiseerde criminele netwerken. Het is zaak om niet alleen technische beveiliging te implementeren, maar ook menselijke controles in stand te houden. Vertrouwen in digitale ecosystemen staat onder druk als fraudeurs technologie kunnen inzetten om systemen te manipuleren.
Editie 366 · Kort