Deepfake: manipolazione video e intelligenza artificiale al servizio del crimine
- GIOVEDÌ 31 OTTOBRE 2019

Qualche tempo fa rimbalzò sui media mondiali la notizia di un video che ritraeva Mark Zuckerberg, il fondatore di Facebook intento a parlare, in toni molto controversi, dell'immenso potere accumulato da Facebook: "Immaginate per un secondo: un uomo con il controllo completo dei dati rubati di miliardi di persone, tutti i loro segreti, le loro vite, il loro futuro," sembrava dire Zuckerberg nel video.

Il punto è che, nonostante le immagini non inducessero alcun dubbio tanto erano realistiche, il video era falso. E' stato creato da due artisti e un'agenzia pubblicitaria, rielaborando al computer un video di Zuckerberg del 2017 ed è un esempio di quello che possiamo definire DeepFake.

Un fotogramma tratto dal video fake

In questo caso la tecnica di manipolazione dei video è stata usata a fini artistico/ pubblicitari, ma gli usi criminosi sono all'ordine del giorno, tanto da indurre ad esempio la California ad approvare ben due leggi contro il deepfake e l'Italia ad avviare una discussione sul tema.

Il deepfake in breve
Il deepfake può considerarsi l'evoluzione delle fakenews: in sintesi è una tecnica per sintetizzare l'immagine umana tramite intelligenza artificiale. Consiste nel sovrapporre delle immagini e video (solitamente volti) con altri video o immagini originali. Ciò è reso possibile dall'impiego dell'apprendimento automatico, in dettaglio di una tecnica conosciuta come "rete antagonista generativa", che consente di far apprendere ad una rete come generare nuovi dati aventi la stessa distribuzione dei dati usati in fase di addestramento. Proprio questa capacità di apprendimento consente la creazione di volti umani iper realistici.

Il video di Zuckerberg, per tornare all'esempio iniziale, è stato prodotto usando algoritmi sviluppati dai ricercatori dell'Università di Washington, che hanno trasformato delle clip audio di persone che parlano in realistici video di persone modellate per far si che sembrino proprio dire quelle parole.

Un esempio di deepfake che vede protagonista Donald Trump

" La minaccia del deepfake": la Polizia Postale italiana lancia l'allarme
Il 29 ottobre si è tenuta a Roma, organizzata da Videocittà, la conferenza "La minaccia del deepfake". "Il deepfake è una nuova tecnica informatica per sovrapporre il volto di una persona ad un'altra ripresa in un video che", ha detto Nunzia Ciardi, direttrice del Servizio Polizia Postale e delle comunicazioni, intervenuta per fare il punto sui rischi che nascono dalla manipolazione delle immagini, "può essere usato per tanti scopi criminali gravissimi, nel mondo politico ma anche finanziario".

Si sono visti alcuni di questi rischi con i falsi video di Renzi e di Zuckerberg, trasmessi il primo in televisione e l'altro in rete, nei quali era impossibile distinguere il falso dal vero. Come ha spiegato la Ciardi "Le aziende negli ultimi anni sono preda di truffe informatiche sempre più sofisticate e in alcuni casi milionarie, portate avanti usando espedienti di ingegneria sociale, ad esempio con email che sembrano inviate dall'amministratore delegato dell'impresa: con il deepfake si può arrivare ad un passo oltre, ad esempio simulando una videoconferenza dall'ad".

Fino ad oggi la stragrande maggioranza del deepfake, circa il 96%, interessa il mondo della pornografia ma, prosegue il capo della PolPost, "i rischi di questa tecnica di manomissione video non vanno sottovalutati".

"Siamo abituati a chattare con persone a cui attribuiamo l'immagine che vediamo in una foto, rischiando di incappare, ad esempio, in una truffa sentimentale. Attribuiamo credibilità alle immagini che vediamo, ma la tecnologia riesce ingannare i nostri sensi, e il deepfake è un'evoluzione che rende ancora più deflagrante questo impatto". In questo contesto, "va reso sufficientemente sicuro l'ecosistema digitale, e ciò spetta alle istituzioni, alle grandi aziende e alle forze come la PolPost, ma è necessario che anche il singolo cittadino sia culturalmente attrezzato e preparato".

Le due leggi "anti deepfake" della California
Il governatore californiano Gavin Newsom ha firmato recentemente due leggi per arginare il fenomeno deepfake: la prima legge criminalizza chi pubblica video e/o immagini manipolate di politici, a fine di screditamento, nei 60 giorni precedenti le elezioni. La seconda invece prevede esplicitamente la possibilità, per le vittime, di citare in giudizio l'autore di un film hard fake che ritrae la vittima senza che questa ne abbia mai girato uno: in questo caso si cerca di combattere due fenomeni criminosi oramai molto diffusi, ovvero la sextortion o il revenge porn.

Il problema è così grave che perfino a livello nazionale è in discussione un atto specifico, il Deep Fakes Accountabilty Act, che si basa su due assunti fondamentali: l'obbligo di dichiarare, per chi crea un deep fake, di dichiarare apertamente la manipolazione del video pena sanzioni penali e la possibilità per chi viene danneggiato dalla diffusione di tali video / immagini di citare in giudizio l'autore.