E04: Che cosa sono i deepfake?

Il concetto di deepfake (o “falso profondo”) può essere inteso, semplificando molto, come la manipolazione digitale della realtà, una nuova unione di verità e finzione che ha, ovviamente, profonde implicazioni per il diritto, l’etica e la società. Per illustrare la potenza di questa tecnologia a un giurista, possiamo considerare i deepfake come un’incarnazione moderna di una sfida antica: discernere il vero dal falso.

Come avrete notato, questi miei post sono (volutamente) ricchi di esempi, spesso un po' banali ma, a mio avviso, molto utili per semplificare senza banalizzare. Immaginiamo allora, per un momento, un abile pittore dell’antichità, in grado di realizzare un ritratto talmente realistico da ingannare anche l’occhio più attento. Tale abilità artistica, per quanto notevole, era però limitata dagli strumenti disponibili (i colori e i pennelli, ad esempio) e dai mezzi tecnologici dell’epoca. I deepfake, a loro volta, portano questo concetto in una dimensione completamente nuova, sfruttando la potenza dell’intelligenza artificiale per creare immagini, video o audio/voci/note vocali che sembrano reali ma che, in realtà, sono delle falsificazioni.

Al centro dei deepfake c’è la tecnologia nota come “deep learning”, che abbiamo già illustrato nell’episodio precedente, e cui rimandiamo per ogni dettaglio. 

Nello specifico, i deepfake utilizzano le reti neurali per analizzare e replicare i modelli trovati nei dati "visivi" e "uditivi". Ad esempio, se si chiede a una IA di creare un video deepfake di un politico famoso che pronunci un discorso che non ha mai tenuto, il sistema studia ore di filmati di quella persona, imparando le sue espressioni facciali, le intonazioni e i dettagli della voce e, persino, i più originali e impercettibili movimenti del suo corpo e del suo viso. Il risultato è una simulazione molto molto convincente che può essere difficile, se non impossibile, da distinguere, a occhio nudo, da un contenuto veritiero.

I deepfake si basano spesso su una tecnica chiamata "Reti Generative Avversarie", o "GAN". Questo processo, assai interessante, coinvolge (ben) due motori di intelligenza artificiale che lavorano in tandem: uno crea il contenuto falso ("generatore"), mentre l’altro ("discriminatore") ne valuta il realismo. È come se uno scultore creasse una statua, e un critico esaminasse in tempo reale, con grande cura, l’opera. Lo scultore è "costretto" ad affinare la sua tecnica fino a quando il critico non riesce più a capire che la creazione è un’imitazione. Nel tempo, questo processo iterativo produce risultati sempre più sofisticati e convincenti.

Le implicazioni dei deepfake sono tanto ampie quanto preoccupanti. Da un lato, questo tipo di tecnologia ha tantissimi usi legittimi, come ad esempio nel mondo del cinema, dove le sembianze degli attori possono essere alterate digitalmente per scopi creativi ("Matrix" docet...), o nell’istruzione, dove i personaggi storici possono essere “portati in vita” per coinvolgere gli studenti o, ancora, nel mondo della moda, con la possibilità di provare vestiti o trucchi su un "gemello" realistico e perfetto del nostro corpo o del nostro viso (con il cosiddetto "virtual try-on"). D’altra parte, i deepfake sono diventati anche strumenti di inganno e di manipolazione. Possono essere utilizzati come vere e proprie "armi" per diffondere disinformazione, per violare la reputazione altrui o, persino, per influenzare le elezioni e alterare gli equilibri democratici, creando false narrazioni che sembrano inconfutabilmente reali.

Per un giurista, i deepfake rappresentano una sfida unica e affascinante. Sfumano i confini tra ciò che è prova e ciò che è falsificazione, minando l’affidabilità delle fonti di prova audio e video, che sono da sempre le pietre miliari di ogni procedimento legale. Si pensi, ad esempio, a un video presentato come fonte di prova in un processo. Se quel video può essere alterato in modo convincente, come potrà il procedimento legale garantirne l’autenticità? Questa domanda colpisce le fondamenta stesse del sistema legale, che si basa sulla verità e sulla verificabilità delle fonti di prova.

Inoltre, i deepfake sollevano questioni etiche e giuridiche legate al consenso delle persone e al danno nei loro confronti. La creazione non autorizzata di contenuti deepfake, soprattutto se coinvolge persone vulnerabili, può portare a gravi danni emotivi, reputazionali e, persino, finanziari. Ciò è particolarmente evidente nei casi in cui i deepfake vengono utilizzati per scopi criminali, come la creazione di falsi contenuti pornografici ("deep nude") o l’impersonificazione ("furto di identità") di persone a scopo di frode.

I sistemi giuridici di tutto il mondo stanno iniziando a esplorare modi per regolare la tecnologia deepfake, bilanciando la necessità di proteggere i diritti individuali (soprattutto la libertà di manifestazione del pensiero, di critica e di satira), la necessità di una fiducia della società e il riconoscimento dei numerosi, possibili usi legittimi di questa tecnologia.