Zorgwekkend: een deepfake bot op de communicatie-app Telegram Messenger heeft tot dusver meer dan 100.000 valse naaktfoto’s gepubliceerd op het internet. De software baseert zich daarvoor op gewone foto’s van geklede mensen.

De deepfake bot is gratis te downloaden en gebruiksvriendelijk. De software vervangt de geklede delen op foto’s door naakt. Meer dan 100.000 van zulke gefabriceerde naaktbeelden zijn intussen al online verspreid. Er zouden nog honderdduizenden van zulke beelden circuleren die nog niet getraceerd zijn.

Een website die de bot promoot beweert dat meer dan 700.000 foto’s van vrouwen op die manier gemanipuleerd zijn. De slachtoffers zijn meestal nietsvermoedende vrouwen wiens foto’s van sociale media of van een persoonlijke harde schijf gehaald zijn. Dat stelde een onderzoeksrapport vast dat meer dan 100.000 foto’s van slachtoffers traceerde. Sommige slachtoffers werden oorspronkelijk gefotografeerd in ondergoed of badpak, anderen droegen een T-shirt en short. Het zijn allemaal vrouwen.

“Het nieuwe hierbij is niet zozeer de AI”, aldus Giorgio Patrini, CEO van een bedrijf dat onderzoek voert naar deepfake en medeauteur van het onderzoeksrapport. “Wel dat de bot heel gebruiksvriendelijk is en er op die manier veel slachtoffers gemaakt kunnen worden.”

Met de bot op Telegram kan virtueel elke vrouw die ooit een selfie postte een potentieel slachtoffer zijn. Het bedrijf van Patrini heeft Telegram het voorbije half jaar meermaals ingelicht over het bestaan van de bot, maar kreeg geen respons.