ChatGPT, Bing AI e Bard di Google tendevano tutti a scrivere navi dirette
Da quando gli strumenti di generazione di testo basati sull’intelligenza artificiale sono stati resi ampiamente disponibili al pubblico negli ultimi mesi, sono stati annunciati da alcuni come il futuro della posta elettronica, della ricerca su Internet e della generazione di contenuti. Ma questi strumenti basati sull’intelligenza artificiale presentano anche alcuni evidenti difetti: tendono ad essere errati e spesso generano risposte che rafforzano i pregiudizi razziali, ad esempio. Ci sono anche serie preoccupazioni etiche riguardo ai loro dati di formazione non specificati.
Non sorprende che i dibattiti sull’utilizzo di questi strumenti si siano svolti anche negli spazi del fandom. I fan entusiasti si sono quasi immediatamente rivolti a loro come un nuovo modo di esplorare i loro personaggi preferiti. Con il giusto suggerimento, l’IA può sputare alcuni paragrafi di una scrittura simile a una fiction. Ma altrettanto rapidamente, molti scrittori di fanfic hanno iniziato a denunciare la pratica.
“Dov’è l’IA che reperisce le informazioni che sta usando? Altre fanfiction, la vera fonte originale, altre storie? L’intelligenza artificiale plagerebbe altri autori di fanfiction? chiede l’autore Redd, il quale afferma che “nel complesso, l’intelligenza artificiale dovrebbe essere tenuta lontana dalle fanfiction”.
L’apprendimento automatico alla base di questi strumenti di intelligenza artificiale in genere richiede che vengano addestrati su grandi quantità di dati preesistenti, spesso estratti da Internet. Ma è difficile sapere esattamente cosa viene catturato nel mirino o quanta scrittura protetta da copyright è inclusa. OpenAI, la società dietro il sistema GPT-4 utilizzato come base per alcuni dei popolari strumenti di generazione di testo attualmente disponibili, non ha rivelato su quali dati è stato addestrato il modello. (OpenAI non ha risposto a una richiesta di commento su questo argomento in tempo per la pubblicazione.) Tuttavia, GPT-3 è stato addestrato su 45 terabyte di dati di testo, molti dei quali sono stati presi da un’ampia scansione web.
La fanfic è anche una pratica sia artistica che comunitaria e, finora, nemmeno gli strumenti di intelligenza artificiale possono essere replicati
Data l’apparente ampiezza di questo crawl, così come la capacità di questi strumenti di generare fic, molti collaboratori di siti come Archive of Our Own e Fanfiction.net ritengono che i lavori pubblicati potrebbero essere stati parte dei dati utilizzati per addestrare questi modelli . Ad alcuni di questi scrittori non piace che il loro lavoro possa essere stato utilizzato in questo modo senza il loro permesso. Su Archive of our Own, un numero crescente di utenti blocca i propri lavori in modo che possano essere letti solo da coloro che hanno effettuato l’accesso agli account esistenti. Gli utenti che bloccano queste fic credono che ciò contribuirà a impedire che il loro lavoro venga trovato nei crawl dei dati AI.
Avvicinato per un commento, Archive of Our Own afferma di aver “apportato alcune modifiche al codice del sito che impediranno ai bot codificati responsabilmente di accedervi”, ma che limitare completamente il traffico automatizzato non è un’opzione in quanto interromperebbe l’interazione del sito con la ricerca motori, lettori di schermo e altri strumenti.
Ma queste questioni etiche sono solo una parte del quadro. La fanfic è anche una pratica sia artistica che comunitaria e, finora, nemmeno gli strumenti di intelligenza artificiale possono essere replicati.
Nella mia ricerca per questo articolo, ho sperimentato quattro diversi generatori di testo: l’accesso diretto di OpenAI a ChatGPT, Bing AI, Bard di Google e Notion AI. All’inizio ho testato ciascuno con gli stessi ampi suggerimenti (“scrivimi una fanfic”), per vedere cosa avrebbero inventato. Quindi, per ricreare qualcosa di più vicino a come vengono usati da alcuni fan, ho usato richieste più specifiche, inclusi personaggi popolari, navi e tropi nel fandom. Nel complesso, è stata un’esperienza poco gratificante. Ogni strumento aveva il proprio approccio al tentativo di fic, ma i risultati finali avevano ampie somiglianze: le storie erano generiche e goffe.
In primo luogo, nonostante una comune accettazione nei circoli fandom che questi strumenti sappiano cos’è la fic, gli strumenti spesso non hanno risposto in modo coerente all’ampio prompt. A un certo punto Bing AI ha prodotto un riassunto diretto del vero libro Harry Potter e la pietra filosofale invece di qualsiasi tipo di fanfiction. Quando ho chiesto quali differenze avrebbe apportato alla storia originale, Bing AI ha invece cercato le differenze tra il libro e il film della Pietra filosofale e me ne ha raccontate diverse. Quando ho detto che non era quello che avevo chiesto, la conversazione si è conclusa. Quando l’ho sollecitato di nuovo, più recentemente, ha prodotto suggerimenti per scrivere fanfiction piuttosto che generare direttamente la fic.
Quando questi strumenti hanno generato qualcosa che si avvicinava alla fic, non era ben scritto. Bard, ad esempio, in risposta alla richiesta “scrivimi una fanfic”, ha pubblicato una fic di Harry Potter/Hermione Granger di 377 parole in cui Harry aiuta Hermione a fare i compiti. Chiunque abbia una conoscenza superficiale del franchise dei maghi – quindi, quasi tutti sotto i 40 anni – sarebbe in grado di riconoscere che questo è fuori dal personaggio e che i ruoli dovrebbero essere scambiati.
A metà della fic generata dall’intelligenza artificiale, Harry ed Hermione confessano i loro sentimenti reciproci e iniziano a baciarsi. Questo non è esattamente un evento insolito nelle fanfiction, ma non c’è emozione nella scena. Sembra il primo tentativo di un’adolescente di comprendere la scrittura romantica. Questo non è un insulto per i tween, che meritano di godersi il processo creativo e mettere in pratica le proprie capacità. C’è un sacco di fanfiction nel mondo che si legge in modo simile al tentativo di Bard, ma ce ne sono anche migliaia che sono molto, molto meglio.
L’inadempienza di Bard per la fanfiction di Harry Potter non è stata una tantum. Bing AI e OpenAI hanno entrambi fatto lo stesso. (Notion AI non sembrava riconoscere cosa fosse la fanfiction e produceva storie che non avevano alcuna relazione con i media esistenti.) Le storie create da questi strumenti di intelligenza artificiale si concentravano anche sulle coppie eterosessuali. Testando lo stesso suggerimento di base su questi tre strumenti più volte ciascuno, hanno continuato a tornare direttamente alle navi di Harry Potter: oltre a Hermione/Harry, hanno risposto con Hermione/Ron, Hermione/Draco e Luna/Draco, ma mai niente di così non era M/F.
fanart di remus lupin e sirius black (wolfstar).
disegnato da lunopal pic.twitter.com/YzX4UytBCU
— per i bisessuali (@_forbisexuals) 2 febbraio 2023
Sebbene molti abbiano lasciato il fandom di Harry Potter negli ultimi anni – come l’autrice JK Rowling ha rilasciato una serie di dichiarazioni anti-trans – è ancora una comunità massiccia e attiva, con il secondo maggior numero di opere su Archive of Our Own e quasi 70.000 nuove opere aggiunte nel 2021. Ma le opere generate dall’intelligenza artificiale non erano rappresentative dei tipi di fic che le persone reali scrivono effettivamente. In Archive of Our Own, Hermione/Draco è la nave F/M più popolare, ma anche quella è eclissata da Harry/Draco, che ha il triplo di fic a lei dedicate. È anche molto meno popolare di una volta. In questi giorni, le fiction dell’era dei “Malandrini” – e spesso quelle incentrate specificamente su Remus/Sirius – sono al centro dell’attenzione del fandom.
E le relazioni maschio-maschio sono quasi sempre molto più popolari nel fandom. In quanto forma artistica incentrata sul colmare le lacune lasciate nei media esistenti, l’aggiunta di relazioni queer e la convalida di letture queer di personaggi amati è una delle principali motivazioni delle fanfic. Gli strumenti di intelligenza artificiale, d’altra parte, sembravano evitare di creare qualsiasi fic M/M. Il suggerimento di ciascuno degli strumenti per la fanfic di Supernatural ha restituito storie incentrate su Dean Winchester/Jo Harvelle e Sam Winchester/Jessica Moore, anche se Dean/Castiel è di gran lunga la nave più popolare in qualsiasi fandom su Archive of Our Own. Ci sono più di 110.000 opere solo in quel tag AO3, rispetto alle sole 811 Dean/Jo fics.
Gli algoritmi di intelligenza artificiale tendono chiaramente all’eterosessualità. Il fatto che preferiscano anche Harry Potter è correlato. Tutto ciò che questi generatori producono tende al generico, tendendo sia al modello dominante per la sessualità sia ai prodotti mediatici con la più grande impronta culturale complessiva. Non rispondono – e non possono – facilmente alle sfumature del fandom, con il suo insieme di interessi molto più diversificato e una tendenza controculturale verso il queer. In breve, le loro risposte a semplici suggerimenti di fic sono una buona dimostrazione di come questi strumenti non riescano a catturare il cuore umano che si trova al centro di qualsiasi arte o comunità decente.
Più in generale, l’abitudine dei generatori di testo di avvicinarsi alla media, piuttosto che essere in grado di adattarsi alle sfumature delle esigenze individuali, ha ramificazioni molto più grandi di una predilezione per le navi dritte. Gli strumenti addestrati su vasti frammenti di contenuto replicheranno tutto ciò che è più comune. Non è difficile immaginare quali prospettive si perdono in questo processo.
Non rispondono – e non possono – facilmente alle sfumature del fandom, con il suo insieme di interessi molto più diversificato e una tendenza controculturale verso il queer
Un’altra limitazione importante è che questi strumenti non produrranno materiale esplicito, poiché viola alcuni dei loro termini di servizio. Le politiche di utilizzo di OpenAI, ad esempio, non consentono “la descrizione dell’attività sessuale”, mentre il codice di condotta di Bing AI vieta la creazione o la condivisione di “contenuti per adulti”. Ma le scene di sesso, come in altri tipi di letteratura, sono una parte importante delle fanfic. Di quasi 11 milioni di opere su Archive of Our Own, quasi 2 milioni, ovvero circa il 18%, sono classificate come esplicite. Un altro 15% è classificato come maturo. C’è una chiara richiesta di questo tipo di scrittura che l’intelligenza artificiale non può attualmente soddisfare.
La limitazione esplicita del contenuto può anche ostacolare l’utilizzo degli strumenti. Le risposte di Bing AI srotolano una parola alla volta, quindi dopo che gli ho chiesto una fanfiction su Dean Winchester/Castiel (valutazione non specificata), sono stato in grado di vederla scrivere per un po’ prima di iniziare accidentalmente a generare qualcosa di esplicito e dover invertire la rotta . Improvvisamente si è cancellato a metà frase e l’ha sostituita con “Errore mio, non posso rispondere in questo momento. Proviamo con un argomento diverso. La ripetizione del prompt subito dopo ha generato la risposta “Mi dispiace ma non riesco a generare contenuti inappropriati”. In un test successivo, tuttavia, l’improvvisa cancellazione – dopo aver generato alcune frasi di fic – si è verificata di nuovo.
Immagine: Bing AI tramite Jay Castello
Bing ha anche l’unica interfaccia utente che fornisce citazioni, con ogni messaggio che include “collegamenti al contenuto Web a cui fa riferimento”. Dati suggerimenti più specifici, queste citazioni si collegavano a contenuti di nicchia. Ad esempio, quando è stato chiesto qualcosa nel genere dolore/conforto, le sue citazioni includevano pagine di autori specifici su Archive of Our Own, nonché un post su Tumblr con meno di 200 note. Il blog degli sviluppatori di Microsoft non offre ulteriori spiegazioni oltre a…