Il deepfake è una tecnica utilizzata per la sintesi di immagini umane basata sull'intelligenza artificiale che utilizza la tecnologia di apprendimento automatico chiamata Generative Adversarial Networks per combinare e sovrapporre immagini e video esistenti con video o immagini originali.
Il termine deepfake deriva dalla tecnologia sottostante "deep learning", che è una forma di intelligenza artificiale. Gli algoritmi di deep learning, che insegnano da soli a risolvere i problemi quando vengono forniti grandi set di dati, vengono utilizzati per scambiare volti nei contenuti video e digitali per creare supporti falsi dall'aspetto realistico.
Viene anche utilizzato per produrre falsi video pornografici di celebrità e revenge porn, ma può anche essere utilizzato per produrre fake news, compiere atti di cyberbullismo o vari altri crimini informatici.
L’evoluzione delle tecnologie deepfake che consentono di creare prove di scene mai accadute fanno ormai parte della realtà. Alcune celebrità si sono purtroppo ritrovate in situazioni davvero spiacevoli a causa di deepfake ed alcuni soggetti politici sono apparsi in alcuni video nei quali sembravano pronunciare parole che in realtà non avevano mai pronunciato.
Le preoccupazioni sui deepfake hanno portato ad una proliferazione di contromisure. Molti paesi stanno cercando di impedire l’uso illegale relativo alla produzione degli stessi. Alcune piattaforme di social media, tra cui Facebook e Twitter, hanno bandito i deepfake dalle loro reti.
Esistono diversi metodi per creare deepfake, ma il più comune si basa sull'uso di reti neurali profonde che coinvolgono autoencoder che utilizzano una tecnica di scambio di volti. È necessario avere prima un video target da usare come base del deepfake e poi una raccolta di videoclip della persona che si vuole inserire nel target.
L'autoencoder è un programma di intelligenza artificiale con il compito di studiare i video clip per capire come appare la persona da una varietà di angolazioni e condizioni ambientali, quindi mappare quella persona sull'individuo nel video di destinazione trovando caratteristiche comuni.
Un altro tipo di apprendimento automatico è il GAN (Generative Adversarial Networks) che rileva e migliora eventuali difetti nel deepfake in più riprese, rendendo più difficile la decodifica per i rilevatori di deepfake.
I GAN sono molto usati per la creazione di deepfake in quanto si basano sullo studio di grandi quantità di dati. Esistono diverse app e software di facile utilizzo utili alla creazione di deepfake, come l'app cinese Zao, DeepFace Lab, FaceApp (1), Face Swap e la ormai rimossa DeepNude (2).
Una grande quantità di software deepfake può essere trovata su GitHub, una comunità open source di sviluppo software. Alcune di queste app sono utilizzate per scopi di puro intrattenimento, motivo per cui la creazione di deepfake non è vietata, mentre altre hanno molte più probabilità di essere utilizzate in modo dannoso.
Molti esperti ritengono che in futuro i deepfake diventeranno molto più sofisticati in proporzione allo sviluppo tecnologico. In tal senso potrebbero verificarsi minacce più gravi per i governi e per l’opinione pubblica in quanto capaci di creare interferenze nelle competizioni elettorali, tensioni politiche ed attività criminali.
Sebbene la capacità di scambiare automaticamente i volti per creare video sintetici credibili e realistici abbia alcune interessanti applicazioni apparentemente non nocive come ad esempio nel cinema, questa tecnologia potrebbe rivelarsi molto pericolosa se applicata ad altre situazioni.
Il video deepfake è stato utilizzato anche in politica al fine di destabilizzare leader politici oppure governi. Gli esperti di politica internazionale si stanno preparando per una futura ondata di fake news basate su video deepfake realizzati molto bene.
Naturalmente non tutti i video deepfake rappresentano una minaccia esistenziale per la democrazia. Non mancano i deepfake usati per l'umorismo e la satira.
I deepfake non si limitano ai soli video. Anche l'audio deepfake è in rapida crescita. Deepfake audio realistici possono essere realizzati utilizzando algoritmi di deep learning e, con poche ore, si riesce a clonare la voce della persona.
La società tecnologica dovrà sempre più essere preparata all’individuazione di deepfake, in quanto gli stessi sono sempre più comuni, così come avviene per l’individuazione ed il rilevamento delle fake news.
Ci sono una serie di indicatori che rivelano i deepfake:
Autore: Claudio Lisi
Senior Security Manager UNI 10459:2017 III° livello
Area Manager Dogma S.p.A.
-------------------
Note:
(1) App di fotoritocco con tecniche di intelligenza artificiale integrate.
(2 ) App che generava false immagini di nudo femminile.
Un sito non basta a risolvere ogni dubbio e soprattutto a far fronte a tutte le necessità. Utilizza il form qui a lato o la CHAT per contattarci, prenotare un appuntamento e chiederci informazioni.