Deepfake – Motivazioni e Obiettivi

Da tecnologia di intrattenimento a potente strumento di comunicazione, business e controllo. I vantaggi della tecnologia Deepfake sono vari, può essere utilizzata i molti e diversi settori: servizi di comunicazione, pubblicitari, moda, campo medico, intrattenimento, dove ad es. le celebrità possono vendere il loro “modello virtuale” senza così avere la necessità di dover interpretare e/o viaggiare per andare sulle riprese di un set cinematografico.

Un altro aspetto interessante è ad es. quello di realizzare applicazioni per rappresentazioni umane sintetiche immaginarie, cioè utilizzare la tecnologia deepfake per creare modelli di persone immaginarie, mescolando ad es. le immagini di varie persone reali alfine di generare un modello di persona sintentica non reale (Facial synthesis).

Un esempio è il sito: https://generated.photos/face-generator

Qui è possibile creare un modello di umano (partendo da un database di immagini di persone reali), selezionando razza, età, colori degli occhi, profili, postura, stato d’animo, etc…  e disporre così di un set fotografico di un modello virtuale unico, da utilizzare ad es. per una pubblicità, tra l’altro l’immagine generata è royalty free (Fig.1).

Nel prossimo futuro, sicuramente uno degli obiettivi principali dell’utilizzo del deepfake sarà la creazione di contenuti. Anche per realtà governative il potenziale positivo di questa tecnologia risiede nella capacità di comunicare in modo più diretto, emotivo e naturale con le varie parti interessate, ad es.  un annuncio di servizio pubblico che può essere trasmesso contemporaneamente in diverse lingue con modelli umani “sintetici” di varie etnie per rendere il messaggio più efficace e tranquillizzante. Nel 2020 il canale MBN ha trasmesso un notiziario utilizzando un deepfake (Fig.2) della giornalista Kim Joo-Ha, che solitamente presentava le notizie. Il pubblico avvertito dell’esperimento reagì principalmente in due modi: sbalordito da una parte e preoccupato sullo stato di salute della giornalista dall’altro.

Per quanto riguarda l’aspetto negativo dei deepfake, a parte “vaporizzare” professioni ( si pensi ad es. alla professione dei doppiatori cinematografici che non avrebbe più senso di esistere ) la manipolazione delle informazioni, eseguita tramite questa tecnologia, apre scenari di minaccia estremamente inquietanti. In generale, per le organizzazioni, si prevede che le aziende potranno essere vittime di diffamazione e inganno, gli attacchi di phishing attraverso audio e video saranno sempre più frequenti, complessi soprattutto efficaci.

Anche in ambito governativo l’utilizzo della tecnologia deepfake come arma da utilizzare in conflitti di cyberwarfare ha un enorme potenziale, dalla propaganda politica alla disinformazione, dall’ingerenza elettorale alla privazione delle persone della cosiddetta “autodeterminazione informativa” (“ciò che voglio far sapere di me lo decido io”), e della loro libertà decisionale (“quello che penso e faccio è una scelta su cui gli altri non possono interferire”). In buona sostanza, le persone, vittime a loro insaputa di un deepfake non solo subiscono una perdita di controllo sulla loro immagine, ma vengono anche private del controllo sul loro pensiero, adducendogli false idee e comportamenti.

Continua a leggere: scarica il white paper gratuito “Deepfake & Cyber Intelligence: tecniche di creazione, rilevamento e prevenzione“

Articolo a cura di Francesco Arruzzoli