Atrioc afferma che i deepfake sono “un problema molto più grande di quanto fossi a conoscenza”
Atrioc, il cui vero nome è Brandon Ewing, è tornato su Twitch. Si era preso una pausa di circa un mese e mezzo dalla piattaforma di streaming dopo aver condiviso inavvertitamente le schede del suo browser Chrome durante un live streaming e aver rivelato di aver visitato un sito Web che vendeva deepfake espliciti e non consensuali, in particolare quelli in cui altri streamer le somiglianze sono state modificate sui corpi delle pornostar.
Gli screenshot del sito Web sono stati ampiamente diffusi da coloro che avevano visualizzato il live streaming di Ewing. E gli streamer le cui sembianze sono apparse sul sito Web deepfake, tra cui QTCinderella, Maya Higa, Sweet Anita e Pokimane – alcuni dei quali sono amici di Ewing – hanno dovuto affrontare le conseguenze. Nelle settimane successive, le donne colpite sono state oggetto di molestie, poiché su Internet sono circolate immagini esplicite delle loro sembianze.
Martedì scorso, Ewing è andato in streaming per fornire un aggiornamento sulle “azioni” che ha intrapreso all’indomani del suo scandalo deepfake. Il flusso ha subito interruzioni tecniche significative che lo hanno fatto entrare e uscire mentre Ewing parlava. Ha detto che stava lavorando con “reporter, tecnologi, ricercatori, donne colpite, Twitch stesso – sto cercando di lavorare con tutti quelli che posso”.
Ewing si è anche scusato per il suo primo video di scuse in lacrime che aveva pubblicato il 30 gennaio e che da allora è stato rimosso dal suo account. In quel video di scuse iniziale, ha affermato di aver navigato sul sito Web dopo aver fatto clic su un annuncio di PornHub per “curiosità morbosa”. Il 31 gennaio, Ewing aveva anche condiviso una dichiarazione su Twitter tramite TwitLonger in cui si scusava con Maya e Pokimane e diceva che stava lavorando con QTCinderella e lo studio legale Morrison Rothman per rimuovere il sito Web deepfake. (Da allora il sito web è stato ripulito dai deepfake, ha riferito Vice a gennaio.)
Durante lo streaming, Ewing ha affermato di aver trasferito $ 60.000 a Morrison Rothman, lo studio legale che QTCinderella ha raccomandato alle donne colpite dallo scandalo deepfake. Raggiunto per un commento, un socio fondatore dello studio legale, Ryan Morrison, ha inviato a Viaggio247 quanto segue via e-mail:
Non posso confermare chi l’ha utilizzato o quanto (privilegio avvocato/cliente), ma posso sicuramente confermare che Atrioc ha inviato un acconto di 60.000 da utilizzare esclusivamente per le donne affette da deep fake e problemi simili, e questo va *lungo* modo con le nostre tariffe per tali servizi. Gli acconti vengono trattenuti e ritirati solo se utilizzati o viene generata una fattura e tutto ciò che rimane alla fine della pratica viene restituito al cliente. Qui, poiché è una questione in corso, molto probabilmente continuerà a essere utilizzato e ad aiutare con le protezioni che possiamo offrire alle persone colpite.
Nel corso della sua ricerca sui deepfake, Ewing ha affermato di aver appreso che i creatori di OnlyFans hanno fatto progressi nella lotta contro il porno deepfake. Ha scoperto che una società chiamata Ceartas, che utilizza l’intelligenza artificiale per contrassegnare le sembianze dei creatori e archiviare rapporti DMCA, era uno dei partner per la sicurezza di OnlyFans, come indicato nel rapporto sulla trasparenza del sito 2023.
Un rappresentante di Ceartas ha detto a Viaggio247 via e-mail che la società è stata creata per “combattere in modo specifico la pornografia deepfake, il revenge porn e gli abusi sessuali basati su immagini”. Hanno confermato che Ewing aveva lavorato con loro, dicendo: “Brandon ci ha contattato alcune settimane fa per chiedere assistenza dopo che non era soddisfatto del lavoro svolto da uno studio legale. Abbiamo fornito una versione di prova per conto dei creatori che ha menzionato nel suo stream. Questo ora è passato dal processo al servizio.
Il rappresentante ha anche risposto ad alcune delle affermazioni di Ewing riguardo al modello di intelligenza artificiale dell’azienda:
Per quanto riguarda l’affermazione nel flusso di non avere abbastanza creatori per il nostro modello di intelligenza artificiale, penso che Brandon forse intendesse specificamente in termini di streamer di Twitch. Abbiamo poco meno di 500 clienti su più verticali (OnlyFans, Instagram, Patreon, YouTube, ecc.) ma non così tanti creatori di tipo Twitch che affrontano problemi di deepfake (considerando che molti di loro non fanno alcun contenuto NSFW). Tuttavia, disponiamo di tonnellate di dati con cui i nostri strumenti di intelligenza artificiale possono lavorare: ovviamente, sono ben accetti ulteriori dati sui casi limite.
Ewing ha anche affermato di aver ricevuto aiuto da una persona improbabile: Maya Higa, una delle donne colpite dallo scandalo deepfake, avrebbe risposto alle sue scuse e alla richiesta di lavorare con lei. Ewing ha affermato di aver utilizzato Ceartas e, secondo quanto riferito, in 12 ore sono stati in grado di rimuovere 512 articoli da Google (Ewing non ha specificato cosa è stato rimosso esattamente). Ha confrontato questo numero con i 51 abbattimenti che Morrison Rothman avrebbe emesso a febbraio.
Ewing ha affermato che, in seguito a questi risultati positivi, QTCinderella ha anche utilizzato Ceartas per eliminare una serie di deepfake. Ha anche detto che Amouranth lo ha contattato e gli ha chiesto di aiutarla a “rimuovere le cose”.
Viaggio247 ha contattato i rappresentanti di QTCinderella, Pokimane, Amouranth e Maya Higa per un commento e aggiornerà la storia quando riceveremo una risposta.
È incredibilmente difficile impedire la creazione di immagini deepfake e cancellarle da Internet. Poiché la tecnologia che può essere utilizzata per crearli diventa solo più sofisticata, con l’IA generativa, in particolare, che rende tutto più semplice che mai, anche il potenziale di uso improprio e molestie continua a crescere. E mentre in California e in Virginia esistono leggi che mirano specificamente al porno deepfake, tali protezioni non esistono a livello federale e sono notoriamente difficili da applicare.
Dal live streaming di Atrioc a gennaio, la raffica di molestie è stata infinita per le donne prese di mira da questi deepfake. A gennaio, QTCinderella è andato in streaming per rispondere all’incidente. “Fanculo il fottuto internet. Fanculo il costante sfruttamento e l’oggettivazione delle donne: è estenuante”, ha detto. “Questo è quello che sembra. Questo è l’aspetto del dolore. Nei mesi seguenti, ha ancora organizzato gli Streamer Awards e ha dichiarato a Viaggio247 in una recente intervista: “Penso che qualsiasi donna del settore possa attestare che si tratta solo di una battaglia verso l’alto”.
Il video delle scuse di Ewing sembrava solo amplificare la situazione; a gennaio, Sweet Anita ha twittato che il suo video di scuse era il modo in cui aveva scoperto che i suoi deepfake espliciti erano su un sito web. A febbraio, Kotaku ha riferito ampiamente su come il fallout l’aveva colpita. “Vogliono vederti come una puttana, qualunque cosa tu faccia. E vogliono odiarti perché sei una puttana. Non importa se partecipi, ti faranno partecipare “, ha detto Sweet Anita a Kotaku.
Nei mesi successivi all’incidente, una serie di annunci per app che consentono agli utenti di creare deepfake, incluso questo, con una persona che è stata modificata per somigliare a Emma Watson, hanno iniziato a diffondersi su Facebook.
Twitch ha impiegato più di un mese per rispondere a questi eventi. Il 7 marzo, Twitch ha finalmente aggiornato alcune delle sue politiche riguardanti le immagini di sfruttamento non consensuali (NCEI). La società ha aggiornato la lingua nella sua politica sulla violenza sessuale e lo sfruttamento degli adulti per “rendere più chiaro che la promozione, la creazione o la condivisione intenzionale di NCEI sintetico può comportare una sospensione a tempo indeterminato”. Anche la politica sulla nudità adulta è stata aggiornata per includere NCEI. La società si è consultata con la UK Revenge Porn Helpline e Danielle Keats Citron, vicepresidente della Cyber Civil Rights Initiative.