Cos’è il Deepfake e perché dovresti essere interessato

0

Tendiamo a credere nel contenuto delle registrazioni video e audio. Ma con l’intelligenza artificiale, la faccia o la voce di chiunque possono essere ricreate con precisione maniacale. Il prodotto si chiama deepfake, una rappresentazione che può essere utilizzata per meme, disinformazione o porno.

Dando uno sguardo ai deepfake di Nicholas Cage  o al PSA di Jordan Peele  è chiaro che abbiamo a che fare con strane nuove tecnologie. Questi esempi, sebbene relativamente innocui, sollevano domande sul futuro. Possiamo fidarci di video e audio? Possiamo ritenere le persone responsabili delle loro azioni sullo schermo? Siamo pronti per i deepfakes?

I Deepfakes sono nuovi, facili da realizzare e in rapida crescita

La tecnologia DeepFound ha solo pochi anni, ma è già esplosa in qualcosa che è allo stesso tempo accattivante e inquietante. Il termine “deepfake“, che è stato coniato su un thread Reddit nel 2017, è usato per descrivere la ricreazione dell’aspetto o della voce di un umano attraverso l’intelligenza artificiale. Sorprendentemente, quasi chiunque può creare un deepfake con un PC schifoso, alcuni software e poche ore di lavoro.

Jim Carrey in Shining

Come con qualsiasi nuova tecnologia, c’è una certa confusione che circonda i deepfakes. I Deepfake sono costruiti dall’IA e sono fatti per impersonare le persone. Il video di “Dunk Pelosi”, che è stato definito un deepfake, è in realtà solo un video di Nancy Pelosi che è stato rallentato e corretto in base alla tonalità per aggiungere un effetto discorsivo.

Questo è anche ciò che rende il deepfakery diverso, ad esempio la CGI di Carrie Fisher in Star Wars: Rogue One. Mentre la Disney ha speso una gran quantità di denaro studiando il volto di Carrie Fisher e ricreandolo a mano, un nerd con un software deepfake può fare lo stesso lavoro gratuitamente in un solo giorno. L’AI rende il lavoro incredibilmente semplice, economico e convincente.

Come fare un Deepfake

Un’IA progettata per completare il primo livello di Super Mario Bros, giocherà ancora e ancora fino a quando non scoprirà il modo migliore per vincere. La persona che progetta l’IA deve fornire alcuni dati per far partire le cose, insieme ad alcune “regole” quando le cose vanno male lungo la strada. A parte questo, l’intelligenza artificiale fa tutto il lavoro.

Lo stesso vale per la ricreazione facciale profonda. Ma, ovviamente, ricreare volti non è la stessa cosa che battere un videogioco. Se dovessimo creare un deepfake di Nicholas Cage che ospita lo show di Wendy Williams, ecco di cosa avremmo bisogno:

  • Un video di destinazione : sin da ora, deepfakes funziona meglio con video di destinazione chiari e puliti. Ecco perché alcuni dei fondamenti più convincenti sono di politici; tendono a rimanere fermi sul podio sotto un’illuminazione costante.
  • Due set di dati : affinché i movimenti della bocca e della testa siano precisi, abbiamo bisogno di un set di dati del volto di chi parla e di un set di dati del volto che vogliamo inserire. Se quello da sostituire guarda a destra, abbiamo bisogno di una foto dell’altro che guarda a destra. Se il primo apre la bocca, abbiamo bisogno di una foto del secondo che apra la bocca.

Dopodiché, lasciamo che l’intelligenza artificiale faccia il suo lavoro. Cerca di creare il deepfake più e più volte, imparando dai suoi errori lungo la strada. Semplice, vero? Beh, un video della faccia di Cage sul corpo di una donna non può ingannare nessuno, quindi come possiamo andare oltre?

I deepfakes più convincenti (e potenzialmente dannosi) sono imitazioni a tutto campo. Il famoso deepfake di Obama  di Jordan Peele è un buon esempio. Quindi facciamo una di queste imitazioni. Immaginiamo di creare un deepfake di Mark Zuckerberg che dichiara il suo odio per le formiche: sembra convincente, giusto? Ecco di cosa avremo bisogno:

  • Un video di destinazione: potrebbe essere un video di Zuckerberg o di un attore che assomiglia a Zuckerberg. Se il nostro video di destinazione è di un attore, incolleremo semplicemente la faccia di Zuckerberg all’attore.
  • Dati fotografici: abbiamo bisogno che le foto di Zuckerberg parlino, battendo le palpebre e muovendo la testa. Se stiamo sovrapponendo la sua faccia a un attore, avremo anche bisogno di un set di dati dei movimenti facciali dell’attore.
  • The Zuck’s Voice: Il nostro deepfake ha bisogno di suonare come The Zuck. Possiamo farlo registrando un imitatore o ricreando la voce di Zuckerberg con l’intelligenza artificiale. Per ricreare la sua voce, eseguiamo semplicemente campioni audio di Zuckerberg attraverso un’intelligenza artificiale come Lyrebird , e poi scriviamo cosa vogliamo che lui dica.
  • Un AI labiale: dal momento che stiamo  aggiungendo la voce di Zuckerberg falso al nostro video, un’intelligenza artificiale per la sincronizzazione labiale deve assicurarsi che i movimenti facciali del deepfake corrispondano a ciò che viene detto.

Non stiamo cercando di minimizzare il lavoro e le competenze che vanno nel settore del deepfakery. Ma se paragonato al lavoro in CGI da un milione di dollari che ha fatto rinascere Audrey Hepburn , i deepfake sono una passeggiata nel parco.

I Deepfakes hanno già causato danni al mondo reale

A partire da ora, la maggior parte dei deepfakes sono solo meme di Nicholas Cage, annunci di servizio pubblico e pornografia. Questi punti sono relativamente innocui e facili da identificare, ma in alcuni casi i deepfakes vengono utilizzati con successo per diffondere disinformazione e danneggiare la vita degli altri.

Nel 2018, un giornalista di nome Rana Ayyub cadde vittima di una campagna di disinformazione, che includeva un video del suo viso che si sovrapponeva su un video pornografico. Ciò ha portato ad altre forme di molestie online e alla minaccia di violenza fisica .

Stateside, la tecnologia deepfake viene spesso utilizzata per creare vendetta porno non consensuale. Come riportato da Vice , molti utenti sul forum Deepfakes Reddit, ora bandito, hanno chiesto come creare deepfakes di ex fidanzate, amici e compagni di classe (sì, pornografia infantile). Il problema è così grande che ora la Virginia mette fuori legge tutte le forme di pornografia non consensuale, compresi i deepfakes .

Poiché i deepfakes diventano sempre più convincenti, la tecnologia sarà senza dubbio utilizzata per scopi più dubbi. Ma c’è una possibilità che stiamo esagerando, giusto? Non è questo il passo più naturale dopo Photoshop?

I Deepfakes sono un’estensione naturale delle immagini

Anche al loro livello più elementare, i deepfakes sono sconvolgenti. Ci fidiamo delle registrazioni audio e video per catturare le parole e le azioni della gente senza alcun pregiudizio o disinformazione. Ma in un certo senso, la minaccia dei deepfakes non è affatto nuova. Esiste da quando abbiamo iniziato a usare la fotografia.

Prendiamo, per esempio, le poche fotografie che esistono di Abraham Lincoln. La maggior parte di queste fotografie (compresi i ritratti sul penny e la banconota da cinque dollari) sono state gestite  da un fotografo di nome Mathew Brady per migliorare l’aspetto spigoloso di Lincoln (in particolare il suo collo sottile). Alcuni di questi ritratti sono stati modificati in un modo che ricorda i deepfakes, con la testa di Lincoln sovrapposta ai corpi di uomini “forti” come Calhoun (l’esempio sotto è un’incisione, non una fotografia).

Sembra una bizzarra pubblicità, ma durante gli anni sessanta del XIX secolo, la fotografia portava una certa “verità” che ora riserviamo per registrazioni video e audio. Era considerato il polo opposto dell’arte – una scienza . Queste foto sono state giudicate per screditare intenzionalmente i giornali che hanno criticato Lincoln per il suo corpo debole. Alla fine, ha funzionato. Gli americani sono rimasti impressionati dalla figura di Lincoln, e lo stesso Lincoln ha affermato che le foto di Brady “mi hanno fatto diventare presidente“.

La connessione tra deepfakes e fotoritocco del XIX secolo è stranamente confortante. Ci offre la narrativa che, mentre questa tecnologia ha gravi conseguenze, non è qualcosa che è completamente fuori dal nostro controllo. Ma, purtroppo, quella narrativa potrebbe non durare a lungo.

Non saremo in grado di individuare Deepfakes per sempre

Siamo abituati a individuare immagini e video falsi con i nostri occhi. È facile guardare un  ritratto di famiglia di Joseph Goebbels e dire “c’è qualcosa di strano in quel tizio nella parte posteriore”. Uno sguardo alle foto di propaganda della Corea del Nord rende evidente che, senza tutorial su YouTube, le persone fanno schifo su Photoshop. E così impressionante come i deepfakes, che è ancora possibile individuare un deepfake a vista.

Ma non saremo in grado di individuare i deepfakes per molto tempo ancora. Ogni anno, i deepfakes diventano più convincenti e ancora più facili da creare. Puoi fare un deepfake con una singola foto , e puoi usare AI come Lyrebird per clonare le voci in meno di un minuto. I deepfakes high-tech che uniscono video e audio falsi sono incredibilmente convincenti, anche quando sono fatti per imitare personaggi riconoscibili come Mark Zuckerberg .

In futuro, potremmo usare l’intelligenza artificiale, gli algoritmi e la tecnologia blockchain per combattere i deepfakes. In teoria, l’intelligenza artificiale potrebbe eseguire la scansione dei video per cercare “impronte digitali ” profonde , e la tecnologia blockchain installata nei sistemi operativi potrebbe contrassegnare gli utenti oi file che hanno toccato il software Deepfake.

Se questi metodi anti-deepfake ti sembrano stupidi, allora unisciti al club. Persino i ricercatori di IA dubitano che esista una vera soluzione per i deepfakes. Con il miglioramento del software di rilevamento, aumenteranno anche i deepfakes. Alla fine, raggiungeremo un punto in cui i deepfakes saranno impossibili da rilevare, e avremo molto più da preoccuparci rispetto ai video di pornografia finta e Nicolas Cage.

Autore del blog Digitalart. Programmatore con la passione per i computer, dolci e la cucina in generale. Ama cimentarsi in produzioni grafiche e scrivere articoli interessanti.

Potrebbe piacerti anche...