Tweet
Oltre 100 mila donne virtualmente denudate. Tra cui, alcune giovani influencer italiane. Vittime inconsapevoli di uomini che hanno dato le loro foto, spesso rubate sui social, in pasto a un bot Telegram: un programmino automatico che si trova sull'app di messaggistica russa ed ? in grado di ritoccare le istantanee in tempo reale, svestendo le protagoniste. Immagini che sono state poi condivise, commentate e persino votate in almeno sette chat pubbliche. ? la nuova frontiera del revenge porn, quella svelata da un'indagine della compagnia Sensity, che Repubblica ha potuto visionare in anteprima.
La nuova frontiera del revenge porn
Vendette sessuali e stupri virtuali non nuovi nell'app fondata da Pavel Durov, pi? volte accusata di non fare abbastanza contro gli abusi. Ma che adesso sfruttano una tecnologia prima appannaggio di pochi e ora diventata alla portata di chiunque. In gergo vengono definiti deepfake. In pratica si tratta di foto, video e audio taroccati sfruttando l'intelligenza artificiale.
"Usare gli algoritmi per creare delle immagini false con l'obiettivo di prendere di mira ex partner o conoscenti non ? mai stato cos? semplice", commenta Giorgio Patrini, uno degli autori dell'analisi. Ed ? proprio la facilit? di utilizzo la principale novit? del bot. Un'evoluzione che dimostra come i deepfake stiano evolvendo a ritmi vertiginosi. ? solo l'esordio di una nuova stagione di cui ? difficile delineare i contorni, scanditi dal progresso. Un domani in cui distinguere il falso dal vero diventer? sempre pi? difficile tanto quanto sar? facile falsificare la realt?, perch? in ogni falso si nasconder? molto di autentico.
Pensare che la storia dei deepfake ? recentissima. Il primo caso noto alle cronache risale al 2017, quando Motherboard scov? un video in cui il volto dell'attrice Gal Gadot era stato sovrapposto a quello della protagonista di un porno. La parte pi? interessante della storia ? che l'autore del filmato manipolato non era stato un grande studio di effetti speciali, ma un utente di Reddit che aveva usato strumenti reperibili online. Da allora il fenomeno ? cresciuto tanto che a ottobre del 2019 si contavano sul web oltre 14.500 contenuti del genere, la maggior parte pornografici.
I limiti superati
Rimanevano due paletti per l'adozione in massa. Prima di tutto, per usare molte delle applicazioni disponibili online ? necessario saper programmare e aver a disposizione dei potenti processori grafici. Pagando esistono dei servizi ad hoc, ma il grande scoglio da superare ? la quantit? di dati necessaria: per funzionare gli algoritmi hanno bisogno di molte foto della persona che si vuole rendere protagonista del falso. Uno dei portali che si trovano in Rete richiede, ad esempio, 250 scatti.
Entrambi i limiti sono stati abbattuti. Una foto, magari sottratta da un profilo social, ? ora pi? che sufficiente per creare il proprio contenuto tarocco e rendere una ragazza inconsapevole protagonista di un'immagine pornografica. Pure le competenze informatiche non sono pi? fondamentali, spiega Patrini: "Basta caricare l'istantanea su un apposito canale Telegram.
Lo scatto viene ritoccato e rispedito al mittente in pochi minuti, se non secondi". Il bot ? gratuito e in pi? c'? la possibilit? di una versione premium: pochi dollari per rimuovere il logo del software sulla foto e avere priorit? rispetto agli altri utenti nell'usufruire del servizio. I risultati non sono perfetti, ma in alcuni casi apprezzabili al punto da riuscire a passare per veritieri a un occhio meno esperto.
Dalle attrici alle ex fidanzate
Un salto di qualit? che ha permesso di cambiare anche il bersaglio dei deepfake a sfondo sessuale. Se prima erano soprattutto attrici famose, di cui ? possibile recuperare molto materiale con una semplice ricerca online, adesso sono per lo pi? compagne di scuola, colleghe, madri, sorelle. Potenzialmente chiunque abbia almeno una propria foto sul web. In particolare, i ricercatori hanno scoperto che nel mirino sono finite diverse influencer e celebrit?.
Ma nel 70 per cento dei casi le vittime sono soggetti privati, potenzialmente anche minorenni, di diverse nazionalit?. Ne hanno individuate quattro: Russia, Argentina, Italia e Stati Uniti. Mentre per quel che riguarda gli utilizzatori, tra il bot in s? e i canali affiliati, se ne contano oltre 100mila: in maggioranza russi o di Paesi dell'ex Unione sovietica. Le implicazioni sono enormi.
Oltre al gi? citato revenge porn e agli stupri virtuali, c'? il rischio concreto che queste immagini vengano usate per ricatti ed estorsioni. A dimostrazione che quando si parla di deepfake, il pericolo pi? immediato non ? tanto la diffusione di notizie false e propaganda, quanto la sicurezza delle donne. E, al momento, non esistono strumenti per difendersi.
Notizia da: Rosira Rijtano per "www.repubblica.it"
La nuova frontiera del revenge porn
Vendette sessuali e stupri virtuali non nuovi nell'app fondata da Pavel Durov, pi? volte accusata di non fare abbastanza contro gli abusi. Ma che adesso sfruttano una tecnologia prima appannaggio di pochi e ora diventata alla portata di chiunque. In gergo vengono definiti deepfake. In pratica si tratta di foto, video e audio taroccati sfruttando l'intelligenza artificiale.
"Usare gli algoritmi per creare delle immagini false con l'obiettivo di prendere di mira ex partner o conoscenti non ? mai stato cos? semplice", commenta Giorgio Patrini, uno degli autori dell'analisi. Ed ? proprio la facilit? di utilizzo la principale novit? del bot. Un'evoluzione che dimostra come i deepfake stiano evolvendo a ritmi vertiginosi. ? solo l'esordio di una nuova stagione di cui ? difficile delineare i contorni, scanditi dal progresso. Un domani in cui distinguere il falso dal vero diventer? sempre pi? difficile tanto quanto sar? facile falsificare la realt?, perch? in ogni falso si nasconder? molto di autentico.
Pensare che la storia dei deepfake ? recentissima. Il primo caso noto alle cronache risale al 2017, quando Motherboard scov? un video in cui il volto dell'attrice Gal Gadot era stato sovrapposto a quello della protagonista di un porno. La parte pi? interessante della storia ? che l'autore del filmato manipolato non era stato un grande studio di effetti speciali, ma un utente di Reddit che aveva usato strumenti reperibili online. Da allora il fenomeno ? cresciuto tanto che a ottobre del 2019 si contavano sul web oltre 14.500 contenuti del genere, la maggior parte pornografici.
I limiti superati
Rimanevano due paletti per l'adozione in massa. Prima di tutto, per usare molte delle applicazioni disponibili online ? necessario saper programmare e aver a disposizione dei potenti processori grafici. Pagando esistono dei servizi ad hoc, ma il grande scoglio da superare ? la quantit? di dati necessaria: per funzionare gli algoritmi hanno bisogno di molte foto della persona che si vuole rendere protagonista del falso. Uno dei portali che si trovano in Rete richiede, ad esempio, 250 scatti.
Entrambi i limiti sono stati abbattuti. Una foto, magari sottratta da un profilo social, ? ora pi? che sufficiente per creare il proprio contenuto tarocco e rendere una ragazza inconsapevole protagonista di un'immagine pornografica. Pure le competenze informatiche non sono pi? fondamentali, spiega Patrini: "Basta caricare l'istantanea su un apposito canale Telegram.
Lo scatto viene ritoccato e rispedito al mittente in pochi minuti, se non secondi". Il bot ? gratuito e in pi? c'? la possibilit? di una versione premium: pochi dollari per rimuovere il logo del software sulla foto e avere priorit? rispetto agli altri utenti nell'usufruire del servizio. I risultati non sono perfetti, ma in alcuni casi apprezzabili al punto da riuscire a passare per veritieri a un occhio meno esperto.
Dalle attrici alle ex fidanzate
Un salto di qualit? che ha permesso di cambiare anche il bersaglio dei deepfake a sfondo sessuale. Se prima erano soprattutto attrici famose, di cui ? possibile recuperare molto materiale con una semplice ricerca online, adesso sono per lo pi? compagne di scuola, colleghe, madri, sorelle. Potenzialmente chiunque abbia almeno una propria foto sul web. In particolare, i ricercatori hanno scoperto che nel mirino sono finite diverse influencer e celebrit?.
Ma nel 70 per cento dei casi le vittime sono soggetti privati, potenzialmente anche minorenni, di diverse nazionalit?. Ne hanno individuate quattro: Russia, Argentina, Italia e Stati Uniti. Mentre per quel che riguarda gli utilizzatori, tra il bot in s? e i canali affiliati, se ne contano oltre 100mila: in maggioranza russi o di Paesi dell'ex Unione sovietica. Le implicazioni sono enormi.
Oltre al gi? citato revenge porn e agli stupri virtuali, c'? il rischio concreto che queste immagini vengano usate per ricatti ed estorsioni. A dimostrazione che quando si parla di deepfake, il pericolo pi? immediato non ? tanto la diffusione di notizie false e propaganda, quanto la sicurezza delle donne. E, al momento, non esistono strumenti per difendersi.
Notizia da: Rosira Rijtano per "www.repubblica.it"
Comment