Impressions: la pericolosa app per creare deepfake credibili

Pamela Naomi Pederzani 15 Maggio 2020

Impressions: la pericolosa app per creare deepfake credibili

Prima di raccontarvi come e perché è nata l’ app Impressions, vediamo cosa si intende per DEEPFAKE. Il deepfake è una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, usata per sovrapporre immagini e video esistenti con video e immagini originali, tramite una tecnica di apprendimento automatico, conosciuta come rete antagonista generativa. È stata purtroppo utilizzata svariate volte per creare falsi video pornografici ritraenti celebrità, e per il revenge porn, ma può essere anche usato per creare fake news, bufale e truffe, per compiere atti di cyberbullismo o altri crimini informatici di varia natura.

Nel gennaio 2018 fu lanciata un’applicazione chiamata FakeApp. L’app permette agli utenti di creare facilmente e di condividere video con volti scambiabili. L’app utilizza una rete neurale artificiale e la potenza del processore grafico e dai tre ai quattro gigabyte di memoria per generare il video fake. Per informazioni dettagliate, il programma necessita di parecchio materiale visivo raffigurante la persona “vittima”, in modo da apprendere quali aspetti dell’immagine dovessero essere cambiati, usando un algoritmo di deeplearning basato su sequenze di video ed immagini.

COME FUNZIONA L’APP IMPRESSIONS

Come abbiamo ribadito ad inizio articolo, quando parliamo di deepfake ci riferiamo a video realizzati tramite tecniche di intelligenza artificiale in cui viene impersonata una persona famosa, che ovviamente non ha nulla a che fare con il filmato in questione.

Impressions è una nuova applicazione disponibile per iOS che permette, appunto, di creare velocemente deepfake credibili, e non è difficile da intuire che essi possono avere conseguenze gravi sulle vittime. Nella descrizione del software non si parla mai di deepfake, ma di video face swap, ma la sostanza non è molto diversa: si tratta di un’applicazione che promette di “trasformare” il vostro volto con quello di una celebrità. Si va da Brad Pitt a Billie Eilish, passando per Freddy Mercury e Voldemort: insomma, ce n’è per tutti i gusti.

L’app in questione non funziona in tempo reale come i filtri Snapchat; poiché i video devono essere elaborati, è richiesto uno specifico flusso di lavoro: si registra un filmato, si carica il video sui server degli sviluppatori, si attende l’elaborazione/conversione e si visualizza il risultato. Tutto il procedimento richiede dai 5 ai 10 minuti (molto dipende ovviamente anche dalla lunghezza del filmato e da quanti altri utenti sono in attesa di elaborare i loro video).

LE CONSEGUENZE

«La realtà è che cercare di proteggersi da Internet e dalla sua depravazione è una causa persa, in linea di massima», ha affermato Scarlett Johansson sull’impossibilità di fermare la creazioni di video fake che sfruttano la sua immagine. Uno di questi video (a sfondo sessuale) è stato visualizzato oltre un milione e mezzo di volte, un numero che fa riflettere sul potenziale danno generato dalla creazione e dalla condivisione, priva di consenso, di deepfake online e sulla difficoltà di combattere il problema. Tra le attrici che sono state vittime di un uso improprio della propria immagine per la realizzazione di contenuti pornografici fakeci sono Emma Watson, Maisie Williams, Sophie Turner e Daisy Ridley.

Un altro effetto dei deepfake è che non è più possibile distinguere se il contenuto è mirato o genuino. Il ricercatore di Intelligenza Artificiale Alex Champandard ha detto che tutti dovrebbero sapere quanto velocemente le cose possono essere falsificate al giorno d’oggi con questa tecnologia, e che il problema non è tecnico, piuttosto è da risolvere con la fiducia nell’informazione e nel giornalismo. Il problema principale è che l’umanità potrebbe cadere in un’epoca in cui non è più possibile determinare se il contenuto di un media corrisponde alla verità.

Articoli Recenti

Buy Buy Birds: un nuovo e-commerce in città

Twitch voce del verbo streammare

Libreria Inserzioni Facebook: trasparenza a portata di click

Hit Estive: siamo davvero pronti ad una nuova Despacito?

Facebook Ads: 5 motivi per cui sono una scelta vincente

WWDC 2020: La prima presentazione Apple senza "uuhhh"

Storytelling: quando raccontare una storia diventa comunicare

Wired Next Fest 2020: 4 mesi di innovazione online

Logo EB Animazione