Un nuovo pericolo sul web Rete: è quello dei cosiddetti video deepfake.

Il termine è stato coniato a fine 2017 da un utente della piattaforma Reddit, che usò proprio lo pseudonimo deepfakes per pubblicare un falso video a luci rosse di Gal Gadot, l’attrice di Wonder Woman.

Cosa sono i deepfake

Deepfake è un algoritmo di intelligenza artificiale per la sintesi di immagini umane, che viene utilizzato per combinare e sovrapporre immagini e video (ad esempio di una persona famosa) su immagini o video di origine (un’altra persona) al fine di generare un video molto realistico completamente fake (cioè finto).
I video creati interamente da un’intelligenza artificiale, in grado di analizzare campioni di dati (ad esempio foto e video di una persona) e creare video artificiali ex novo a partire da quei dati. La tecnologia è davvero preoccupante e non è facile limitarne l’uso improprio.
Fortunatamente per realizzare questo genere di lavori è necessaria una potenza computazionale banale e costosa, richiede inoltre conoscenze tecniche avanzate.

Perchè sono diventati famosi

I deepfake sono quindi una tecnologia in grado di manipolare la realtà, creando video finti realistici, e addirittura notizie o articoli in modo algoritmico, credibile e del tutto automatizzato.
Questo dovrebbe farci riflettere sulla la veridicità dei video quando ci si imbatte in news, video e immagini che sembrano vere ma che potrebbero essere state create da un software
Visto le implicazioni etiche a cosa questa tecnologia potrebbe davvero essere utile. Cinema e opere artistiche a parte, ovviamente.

La loro tecnologia

La tecnica si fonda sulle neural networks (reti neurali), una tecnologia di analisi dei dati, in grado di effettuare il morph delle espressioni facciali di una persona partendo dalla mimica di quelli di un’altra.
Nel cinema questa tecnica è stata in grado di riprodurre risultati sbalorditivi: ad esempio il film Rogue One del 2016, include una versione digitalizzata della Principessa Leia molto difficile da distinguere dalla versione originale. La tecnica utilizzata , è nota come deep learning. e richiede una potenza di calcolo che solitamente si ottiene sfruttando schede video di alto livello.

Programmi open source per fare deepfake

La cosa davvero inquietante è che si tratta di una tecnologia alla portata di chiunque, non nel senso di utilizzo bensì di facilità di reperire software del genere: il codice di queste applicazioni è quasi tutto open source, e spesso non viene citato apertamente (cosa che non faremo neanche qui, per ovvie ragioni) per paura che possa scatenarsi un meccanismo di emulazione di massa. Esistono anche interfacce piuttosto semplici da utilizzare per realizzarli, per quanto in molti casi il tipo di software sia impegnativo da utilizzare e non esattamente alla portata di chi non abbia un minimo di competenze tecniche specifiche: addestramento di modelli supervised, programmazione Python e così via.
Le app per creare deepfake (sia per mobile che per desktop) sono periodicamente rimosse dal web e si preferisce non lasciarle online per evitare abusi.
Tutto sta nella responsabilità dei singoli e sulla conoscenza a livello globale dell’esistenza di queste tecniche, in modo che ognuno possa valutare criticamente qualsiasi contenuto e sappia, almeno, che molti video realistici potrebbero essere semplici fake realizzati ad arte.

Riferimenti da cui ho preso spunto:
https://trovalost.it/deepfake/