“Sappiamo che il nostro test iniziale non è stato perfetto”
AI Dungeon è un gioco infinito generato proceduralmente in cui i giocatori creano una classica narrativa testuale in stile avventura scrivendo suggerimenti creativi o intelligenti. In un recente aggiornamento, lo sviluppatore di AI Dungeon Latitude ha implementato un nuovo sistema che impedisce al gioco di generare contenuti sessuali che coinvolgono minori e la comunità è indignata per l’implementazione.
Il sistema (che lo sviluppatore sta attualmente testando) è stato progettato per rilevare “contenuti espliciti che includono descrizioni o raffigurazioni di minori”. In quella circostanza, AI Dungeon dirà al giocatore “Uh oh, questo ha preso una strana svolta …” e lo costringerà a provare altri suggerimenti. Secondo una dichiarazione di Latitude, il sistema getta una rete molto più ampia del previsto, a volte bloccando la generazione procedurale di storie che coinvolgono bambini o qualsiasi cosa relativa a frasi specifiche come “cinque anni”.
Martedì, Latitude ha pubblicato un lungo blog spiegando l’aggiornamento nel tentativo di alleviare le maggiori preoccupazioni della comunità.
Ieri abbiamo rilasciato un sistema di test per impedire la generazione di determinati contenuti sessuali che violano le nostre politiche, in particolare contenuti che possono coinvolgere raffigurazioni o descrizioni di minori (per i quali abbiamo tolleranza zero), sulla piattaforma AI Dungeon. Non abbiamo comunicato in anticipo questo test alla community, che ha creato un ambiente in cui gli utenti e gli altri membri della nostra community più ampia, inclusi i moderatori della piattaforma, sono stati colti di sorpresa. Per questo motivo, alcune informazioni sbagliate si sono diffuse su Discord, Reddit e altre parti della comunità di AI Dungeon. Di conseguenza, è diventato difficile tenere le conversazioni che vogliamo avere su quale tipo di contenuto è consentito su AI Dungeon.
Lo sviluppatore ha affermato che il test ha avuto implicazioni non intenzionali, scrivendo: “Sebbene questo test abbia in gran parte solo impedito all’IA di generare contenuti sessuali che coinvolgono minori, a causa di limitazioni tecniche a volte ha impedito la generazione di contenuti a cui non era destinato”.
I fan hanno reagito a questi cambiamenti – sia lo scopo previsto che gli effetti collaterali non intenzionali – sui social media di Latitude. Alcuni di questi post sono meme che dovrebbero essere una semplice schiacciata per lo sviluppatore e poco altro, mentre altri post sembrano riflettere una rabbia legittima.
Un’immagine del subreddit di AI Dungeon del 28 aprile, che riflette la reazione della comunità
Gli utenti hanno condiviso esempi delle loro storie che giungono a una fine improvvisa quando il sistema di test sembra rilevare contenuti controversi … anche quando chiaramente non ce ne sono. AI Dungeon consente illimitate possibilità di gioco di ruolo e narrazione e Latitude supporta altro materiale NSFW, inclusi sesso, violenza e imprecazioni. Alcuni giocatori si sentono allarmati dal fatto che la loro narrativa privata con temi per adulti possa essere soggetta a moderazione e letta da un’altra persona del team di sviluppo. Latitude ha affermato che il suo sistema contrassegnerà i post potenzialmente infranti, che possono quindi essere ulteriormente esaminati da un membro dello staff.
“Latitude esamina i contenuti contrassegnati dal modello allo scopo di migliorare il modello, applicare le nostre politiche e rispettare la legge”, ha affermato lo sviluppatore. In risposta alla domanda “Latitude sta leggendo le mie avventure inedite?” lo sviluppatore ha scritto: “Abbiamo creato un sistema automatizzato che rileva i contenuti inappropriati”. Abbiamo contattato Latitude per commenti e chiarimenti.
Ciò ha gli utenti preoccupati per la loro sicurezza e privacy, soprattutto se hanno inviato informazioni vulnerabili o personali nel sistema AI Dungeon. Per ora, il sistema di test è ancora in vigore.