Deepfake: non il falso che crediamo, ma il vero che possiamo negare

Il deepfake ha una risposta ufficiale, e si chiama provenienza. Per ristabilire fiducia in ciò che vediamo, l’industria ha deciso di firmare. Lo standard C2PA, nato nel 2021 da Adobe, BBC, Microsoft e altri, incorpora nei file una catena di metadati firmati crittograficamente; dall’ottobre 2023 la Leica M11-P è stata la prima fotocamera di serie a firmare ogni scatto al momento della cattura, legandolo alla propria autorità di certificazione. E dall’agosto 2026 l’articolo 50 dell’AI Act imporrà di marcare come artificiali i contenuti generati dall’AI e di dichiarare i deepfake. Sembrano misure per farci tornare a credere alle immagini. Sono invece una cura che cambia la malattia. Fanno l’opposto: ne rovesciano la logica. Il problema dei deepfake non è quello che pensiamo, che crederemo al falso. È che potremo smettere di credere al vero. E il rimedio non ci ridà fiducia nell’immagine: sposta la prova dall’immagine alla firma che la accompagna.

Da reale salvo prova a falso salvo firma

Per quasi due secoli la fotografia ha goduto di una presunzione: era testimone. Salvo manomissione evidente, una foto era vera, la macchina non mentiva, e l’onere di dimostrare il falso spettava a chi contestava. La provenienza crittografica capovolge questa presunzione. In un mondo di Content Credentials nulla è creduto se non è firmato: si passa da reale salvo prova contraria a falso salvo firma. Non è l’intento dello standard, che anzi è costruito perché l’assenza di credenziali non equivalga a falsità; è però l’effetto prevedibile della sua adozione di massa. L’autenticità smette di essere una proprietà dell’immagine e diventa una pratica burocratica, una catena di certificati.

Qui si apre il primo paradosso. La stragrande maggioranza del reale, le foto che la gente scatta senza firme né chip dedicati, resta non firmata, e quindi sospetta per difetto. La stessa logica che vuole smascherare il falso finisce per gettare un’ombra sul vero non certificato. È il terreno in cui l’intelligenza artificiale diventa, alla lettera, una fabbrica di false evidenze.

Il deepfake e il dividendo del bugiardo

C’è poi un guadagno che nessuno aveva messo in conto, e tocca chi mente. Robert Chesney e Danielle Citron lo hanno chiamato liar’s dividend, il dividendo del bugiardo: appena tutti sanno che un video può essere fabbricato, il colpevole può liquidare come deepfake una registrazione autentica. Il pericolo, allora, non è il falso che ci inganna, ma il vero che diventa negabile. Una confessione ripresa, un abuso documentato, una frase realmente pronunciata: ognuno acquista un alibi incorporato. E quando l’AI mente bene, la prova non perde forza perché il falso convince, ma perché il vero ha smesso di essere indiscutibile. Smascherare il falso e screditare il vero sono diventati lo stesso gesto.

L’immagine era un’impronta, non una somiglianza

Per capire che cosa si rompe davvero, conviene chiedersi perché un’immagine abbia mai fatto prova. Non perché somigliava al reale: anche un dipinto somiglia, e nessuno lo chiama a testimoniare. La fotografia valeva perché era un’impronta, causata dalla luce della cosa, un calco fisico come l’orma sul fango o la maschera mortuaria. La semiotica offre lo strumento: la fotografia è insieme icona, perché somiglia, e indice, perché legata al suo oggetto da un rapporto di causa. Ma è l’indice, non la somiglianza, a fondarne il valore di prova. Roland Barthes lo aveva fissato in due parole, è stato: una foto certifica non che la cosa è bella o verosimile, ma che è esistita, che la luce l’ha toccata.

Il generativo spezza esattamente questo. Conserva la somiglianza e cancella l’impronta: un deepfake assomiglia a ciò che è accaduto pur non essendo legato a niente che sia accaduto. È icona pura, indice zero. E così rivela qualcosa che non avevamo capito: la somiglianza non ha mai fondato la prova, la fondava il contatto con il reale. Tolto il contatto, resta una somiglianza che non dimostra nulla.

La provenienza, a ben vedere, è il tentativo di fabbricare un’impronta artificiale al posto di quella perduta: il chip della fotocamera ricostruisce la causalità sotto forma di firma. Ma una firma attesta l’origine, non la verità, ed è lo stesso standard a riconoscerlo: certifica la storia del contenuto, non che sia vero. Una foto perfettamente firmata di una scena perfettamente recitata è autentica e falsa insieme. E nel migliore dei casi non torniamo a fidarci dell’immagine: ci fidiamo della chiave che l’ha firmata, e di chi quella chiave la custodisce. Il testimone è morto, al suo posto c’è un’autorità di certificazione.

Quello che resta da pensare

Avevamo paura di credere al falso, di un mondo in cui vedere non è più credere. La perdita è più profonda e meno appariscente: possiamo rifiutarci di credere al vero, e l’immagine, che per due secoli è stata una traccia del reale, torna a essere un disegno che per caso somiglia. La prova non sparisce. Migra. Dalla cosa alla sua firma, dal testimone alla chiave. Il deepfake non ci farà credere al falso: ci darà il permesso di non credere più al vero. E una prova che non è più l’impronta lasciata dal reale, ma la firma di chi la rivendica, parla la lingua di chi possiede le chiavi, non quella dei fatti.

Riferimenti di pensiero:

• Roland Barthes, La camera chiara. Nota sulla fotografia (La chambre claire, 1980).
• Charles S. Peirce, la teoria dei segni (icona, indice, simbolo), in Collected Papers / “Logic as Semiotic: The Theory of Signs”.
• Rosalind Krauss, “Note sull’indice” (“Notes on the Index”, in October, 1977).
• Robert Chesney e Danielle Citron, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security, in California Law Review, vol. 107, 2019.