Kidas affronta un grosso problema con una piccola scatola
Per circa l’anno scorso, la società di Ron Curbs ha lavorato a un dispositivo di monitoraggio che ascolta la chat multiplayer online e cerca di offrire un utile avvertimento ai genitori preoccupati per il comportamento online dei loro figli o per la loro sicurezza. Curbs capisce che sta cercando di infilare un piccolo ago: i genitori non troveranno la sua soluzione, chiamata Kidas, utile se li fa sentire ogni volta che qualcuno dice una parolaccia. Quindi, in questo momento, ci sono alcuni falsi positivi divertenti.
Un paio di settimane fa, dice, un dispositivo Kidas in una casa di prova ha raccolto una conversazione preoccupante tra adolescenti. Nessuna imprecazione, ma furono scambiati insulti e minacce. Quando ciò accade, un analista umano esamina l’incidente e determina se i genitori debbano essere informati.
“Il bambino stava effettivamente giocando a Bully”, rise Curbs. “Siamo stati sostanzialmente avvisati di una situazione che si è verificata nel gioco stesso.” Il giocatore era nella chat di gruppo di Xbox Live come nel gioco per giocatore singolo e Kidas ha confuso i dialoghi del gioco per un confronto online.
Questi sono i tipi di incendi che sei destinato a ottenere quando stai costruendo qualcosa di ambizioso come l’idea di Curbs: una soluzione che contribuisce a mantenere i bambini al sicuro e felici online, senza agitare un dito o violare la loro privacy. Ha dimostrato un successo sufficiente, su una beta affiatata in meno di 100 famiglie Xbox, per attirare interesse e supporto da grandi incubatori di startup, l’ultimo dei quali è Lift Labs di NBCUniversal. (Divulgazione: NBCUniversal è un investitore significativo in Viaggio247 Media, che possiede Viaggio247.)
L’hardware di Kidas è composto da componenti standard, ha affermato Curbs. Immagine: Kidas / Lift Labs
Kidas, con sede a Filadelfia, è una startup di 10 persone che si occupa di una causa che i giocatori più grandi hanno abbracciato in misure minori nell’ultimo anno. Electronic Arts, questa estate, ha introdotto una nuova serie di standard sia per sé che per i suoi giocatori, intesi a creare comunità online più sane nei suoi enormi giochi multiplayer. La nuova PlayStation 5 ha una funzione che registrerà i dialoghi in chat, per aiutare i moderatori a esaminare le denunce di abusi verbali o altre violazioni del codice di condotta. E solo una settimana fa, Microsoft, Sony e Nintendo hanno firmato un impegno per rendere i videogiochi più sicuri, soprattutto per i loro giocatori più giovani.
La tecnologia di Kidas è principalmente per un genitore, in particolare un genitore che non ritiene che le dichiarazioni di quelle aziende siano sufficienti, né gli appelli agli angeli migliori della nostra natura online. Curbs ha avuto l’idea di Kidas dopo il suo servizio nell’esercito israeliano, dove ha sviluppato soluzioni di rilevamento delle minacce per la Central Intelligence Unit del paese. In origine, ha detto Curbs a Viaggio247, Kidas intendeva monitorare il traffico dei social media in generale. Ma quello era un ambito troppo ampio da gestire.
“Abbiamo deciso di passare dai social media ai giochi, [where] le conversazioni vocali sono molto difficili da monitorare “, ha detto Curbs. “Sulla base della tecnologia attuale, sapevamo dalla nostra esperienza passata, che abbiamo le competenze tecniche per farlo. Abbiamo deciso di indirizzare qualcosa che nessun altro ha fatto prima e monitorare quelle conversazioni vocali in modo molto accurato e avvisare i genitori di quei casi “.
“Quando Ron è entrato per la prima volta nel nostro programma, Kidas non si occupava solo di giochi”, ha affermato Danielle Cohn, vicepresidente di Lift Labs. “Era più un prodotto generale. Quello che ha scoperto è che c’era una reale necessità nel gioco. […] A volte, quando crei un prodotto e la tua startup, stai cercando di fare troppo in una volta. Penso che Ron sia intelligente su questo, dove sta iniziando con i giochi. E se può andare davvero in profondità nel gioco, perfezionarlo e testarlo lì, allora può avere un uso più ampio “.
Alla domanda su cosa fa funzionare Kidas, Curbs ha menzionato concetti come reti neurali e apprendimento automatico. Ovviamente, avrebbe bisogno di fare affidamento su un codice molto sofisticato e in continua evoluzione per distinguere tra bambini che parlano innocentemente spazzatura e qualcosa che porterebbe sicuramente un genitore nella stanza: minacce di violenza, linguaggio umiliante o sollecitazioni da un predatore.
Un avviso di routine che un genitore Kidas potrebbe ricevere. Immagine: Kidas / Lift Labs
È importante sottolineare che non intende che il dispositivo sia una tata da sistemare e dimenticare nella stanza dei giochi. Kidas come prodotto presuppone che un genitore coinvolto stia conversando con il proprio figlio. E lo stesso Kidas sta dando loro molto più di un registro di chat di parole chiave che fanno scattare i loro sensori. “Non abbiamo intenzione di avvisare i genitori ogni volta che qualcuno sta infuriando qualcun altro in una chat”, ha detto Curbs. “Avviseremo i genitori sui casi di bullismo ripetuto e sui casi in cui il loro bambino viene preso di mira dal bullismo e [if it’s] influenzandolo psicologicamente e persino cambiando la loro stima a causa di ciò. “
Curbs non direbbe quante famiglie ci sono nella beta in corso di Kidas (solo che hanno una lunga lista di attesa). Ma la dimensione non può essere grande data la profondità dell’interazione su cui Kidas fa affidamento per modellare i propri avvisi e avvisi, in modo che i genitori ottengano informazioni effettivamente utili. Cohn, da parte di Lift Labs, vede Kidas già realizzare questo obiettivo. “Quello che mi ha colpito di più è il feedback che ha ricevuto da alcuni dei genitori che l’hanno provato”, ha detto. “È ancora agli inizi, ma è certamente uno spazio emozionante che porterà anche un po ‘di tranquillità.”
Kidas al momento ha alcune limitazioni evidenti: funziona solo con Xbox One o Xbox Series X, per cominciare. La soluzione dongle, anche se è costruita con hardware standard, è necessaria anche perché Curbs e Kidas non hanno accesso all’ambiente chiuso della rete Xbox Live di Microsoft. Idealmente, dice, un giorno lo faranno, e Kidas sarà un software che gira sulla console stessa.
Altrettanto importante, ha detto Curbs, è presentare Kidas come un aiuto, non come qualcosa la cui presenza dice al genitore o al bambino che il videogioco è, a prima vista, una cosa cattiva o pericolosa.
“Il nostro obiettivo non è, dillo [parents], “OK, non dovrebbe più giocare a Xbox, o non dovrebbe più giocare a PlayStation” “, ha detto Curbs, lui stesso un fan che è cresciuto amando i videogiochi. “Il nostro obiettivo è fornire loro gli strumenti per parlare di questo argomento con il loro bambino, fargli capire. ‘Quali sono le tattiche giuste per trattare con quelle persone?’ “