Vedere non è credere
Nel 1996, all’età di 10 anni, ho giocato a un gioco per computer a casa di un amico chiamato Spycraft: The Great Game. Nel gioco, giochi nei panni di un agente della CIA che indaga su un complotto per assassinare; per fuorviare un sospetto durante un interrogatorio, hai la possibilità di falsificare una fotografia. Il processo ha sconvolto la mia mente di 10 anni, così tanto che ho ricordato quanto fosse potente quel minigioco in tutti questi anni. Sebbene fosse sfocato e pixelato, l’editor di foto che appariva in Spycraft era un po’ come quello che un giorno sarebbe diventato Adobe Photoshop. Nel 1996, sembrava roba da spionaggio e inganno ad alta tecnologia. Nel 2023, è assolutamente banale. Non è difficile o costoso alterare una fotografia, non più. Chiunque può farlo e, di conseguenza, siamo tutti arrivati ad accettare che non possiamo fidarci di nessuna immagine che vediamo.
La tecnologia Deepfake ha già dimostrato che non possiamo fidarci nemmeno delle registrazioni video o audio. E la prevalenza dell’intelligenza artificiale generativa ha solo reso più facile la creazione di tali deepfake. Dobbiamo tutti abituarci a questa nuova realtà, e in fretta.
Se volessi prevenire un deepfake, dovresti eliminare ogni singola registrazione visiva e uditiva della tua esistenza
Genna Bain, la moglie dell’ormai defunto YouTuber John “TotalBiscuit” Bain, ha pubblicato su Twitter la scorsa settimana una nuova preoccupazione che deve affrontare grazie ai progressi della tecnologia AI: “Oggi è stato divertente. Trovarmi di fronte alla scelta di cancellare da Internet tutti i contenuti della vita del mio defunto marito. Apparentemente le persone pensano che sia giusto usare la sua libreria per addestrare le IA vocali a promuovere i loro commenti sociali e le loro opinioni politiche”. In risposta, ha ricevuto simpatia e suppliche dai fan di suo marito per preservare la sua eredità online.
Ma ecco il problema. Non c’è modo pratico in cui Genna Bain, o chiunque altro nella sua posizione, possa impedire adeguatamente a chiunque di creare un video o un clip audio deepfake di John Bain. Sono necessari solo pochi minuti di audio per addestrare un’intelligenza artificiale a imitare una voce; per un video deepfake, hai principalmente bisogno di riprese di più espressioni facciali e angoli. Quindi, se volessi impedire a te stesso di apparire in un deepfake, dovresti eliminare ogni singola registrazione visiva e uditiva della tua esistenza, che per chiunque usi uno smartphone è così vicino all’impossibile che potrebbe anche essere impossibile . Ciò è ancora più vero per un personaggio pubblico come Bain, che è stato ospite di programmi e podcast che sua moglie non ha necessariamente la possibilità di rimuovere, e il cui volto e la cui voce sono già stati salvati per sempre sui dischi rigidi dei suoi fan in giro per il mondo.
Negli anni ’90 e 2000, Photoshop ha permesso alle persone di incollare i volti delle celebrità sui corpi nudi di altre persone e nel 2018 il pubblico ha appreso come la tecnologia AI potesse essere utilizzata per realizzare video pornografici che sembravano rappresentare le celebrità. Da allora, la tecnologia è diventata sempre più accessibile. La ricerca su Google di “app deepfake gratuita” offrirà tantissime opzioni per la modifica del software. Nel 2023, questa tecnologia è probabilmente ancora utilizzata per fare porno delle celebrità, proprio come lo era nel 2018, ma oggigiorno le persone la usano anche per far dire alle celebrità cazzate stupide. Internet ha sempre funzionato con il porno, ma funziona anche con i meme, quindi questo tiene traccia.
Immagine: unreal_keanu/TikTok
Se diventi abbastanza famoso, sarai disumanizzato e oggettivato in questo modo, e i tuoi stessi fan saranno sorpresi e confusi se ti opponi. Inoltre non sarai in grado di fermarlo. Ma questo non è un articolo in cui cerco di convincere le persone a dispiacersi per i personaggi famosi. (Anche questa è una battaglia persa, anche se a volte cerco di combattere.) Questo è, invece, un articolo in cui cerco di convincere le persone a non fidarsi del video e dell’audio che vedono e sentono.
Ci è voluto molto tempo prima che tutti noi ci abituassimo all’esistenza di Photoshop. Vedere un’immagine che è stata falsificata in modo intelligente può ancora indurre in errore una persona intelligente e ragionevole a credere a qualcosa che non è vero. È nella natura umana voler credere in qualcosa che sembra reale; dopo tutto, vedere per credere, giusto? Detto questo, ho vissuto l’ascesa di Photoshop, ed è per questo che credo che ci adatteremo anche a questo.
Non so come sarà il futuro o quali tipi di regolamenti avremo bisogno per affrontare questa situazione. Ma so una cosa: è già qui. Viviamo in un mondo in cui questo tipo di falsità non è solo possibile, ma ridicolmente facile. Ora dobbiamo accettare che è qui e andare avanti in una realtà in cui il nostro scetticismo si espande per includere ancora più tipi di inganno.
Ma ehi, almeno i meme saranno fantastici.