YouTube ospita una pletora di video, attraendo una vasta gamma di spettatori, ma a volte i video possono essere un po 'troppo accessibili. Animazioni per adulti come "Happy Tree Friends" o "Don't Hug Me I'm Scared" possono fare appello ai bambini con i loro colori vivaci o le marionette simili a Muppet, anche se non sono adatti ai bambini. Ma sembra che la piattaforma di condivisione video potrebbe affrontare i reclami con una versione aggiornata dell'app YouTube Kids che sarebbe monitorata da persone reali, secondo un rapporto di BuzzFeed News. La richiesta di Romper per un commento da YouTube in merito ai rapporti sull'aggiornamento non è stata immediatamente restituita.
L'idea è che questa nuova app coesisterebbe insieme a YouTube Kids, il tentativo originale dell'azienda di utilizzare un algoritmo per filtrare i contenuti accessibili ai bambini, secondo BuzzFeed News. Il notiziario ha riferito che offrirà ai genitori la possibilità di disattivare i video suggeriti algoritmicamente. Invece, i bambini non avrebbero accesso a nessun video che non sia stato proiettato da un essere umano in carne e ossa. Ha senso; gli algoritmi possono essere fantastici, ma è un programma per computer e può essere codificato solo per leggere e contrassegnare per così tanto.
L'app YouTube Kids funziona per bloccare i ricercatori di base per i video non adatti; la ricerca di contenuti espliciti non produrrà alcun risultato. Inoltre, i genitori hanno avuto la possibilità di rimuovere il pulsante di ricerca nella sua interezza, lasciando disponibili solo i video preselezionati. Ma le preoccupazioni sui video che YouTube Kids ha suggerito ai bambini sono in circolazione da un po 'di tempo, come riportato da Tech Radar. Anche se YouTube Kids è un tentativo decente di cercare di filtrare informazioni dannose, ci sono stati casi in cui l'app avrebbe suggerito video di cospirazione ai bambini, come riportato da Business Insider.
Altri video includevano affermazioni che il mondo è piatto, l'atterraggio sulla luna era falso e che il pianeta era governato da ibridi rettili-umani, secondo Business Insider. YouTube Kids ha riscontrato problemi peggiori rispetto alle teorie della cospirazione sin dalla sua nascita nel 2015. Meno di due mesi dopo il rilascio dell'app, a maggio 2015, la Campagna per un'infanzia senza pubblicità, una coalizione di gruppi di difesa dei bambini e dei consumatori, si è lamentata alla Federal Trade Commission (FTC). Le loro preoccupazioni includevano il contenuto che il gruppo chiamava "non solo … inquietante per i bambini piccoli, ma potenzialmente dannoso".
Usando personaggi dei cartoni animati popolari, come Spiderman ed Elsa, YouTuber è stato in grado di attirare i bambini in video offensivi. Secondo Polygon, i video iniziarono normalmente, ma presto mostrarono principesse, supereroi e altri favoriti che partecipavano a atti osceni o violenti. Poiché un sistema basato su algoritmo non esegue la scansione dell'intero video, YouTuber è stato in grado di evitare il sistema utilizzando nomi e miniature di video che l'algoritmo legge come sicuri per i bambini.
Tra gli altri argomenti elencati nel rapporto, come riportato da Polygon: il linguaggio sessuale esplicito presentato in mezzo all'animazione dei cartoni animati, una parodia di parolacce del film Casino con Bert ed Ernie di Sesame Street, discussioni grafiche per adulti sulla violenza familiare, la pornografia e il suicidio di bambini, barzellette sulla pedofilia e sull'uso di droghe e sulla modellizzazione di comportamenti non sicuri.
È qui che interviene l'app segnalata. Invece di fare affidamento su algoritmi facilmente ingannevoli, tutto il contenuto dovrebbe essere filtrato attraverso esseri umani reali. La fonte avrebbe riferito a BuzzFeed News che l'opzione nella lista bianca dell'app potrebbe essere rilasciata nelle prossime settimane. Secondo BuzzFeed News, YouTube non ha negato i piani per l'app, ma avrebbe dichiarato: "Lavoriamo sempre per aggiornare e migliorare i bambini di YouTube, tuttavia non commentiamo voci o speculazioni".
Ma il CEO di YouTube Susan Wojcicki ha affermato che la società sta espandendo il proprio corpo di moderazione a oltre 10.000 appaltatori nel 2018, secondo Polygon, e si concentrerebbero su contenuti che potrebbero violare le politiche di YouTube. "I revisori umani rimangono essenziali sia per la rimozione dei contenuti che per la formazione dei sistemi di apprendimento automatico perché il giudizio umano è fondamentale per prendere decisioni contestualizzate sui contenuti", ha scritto in un post del blog di dicembre 2017.
La seguente dichiarazione è stata rilasciata da YouTube al momento su Polygon:
Il contenuto che induce in errore o mette in pericolo i bambini è inaccettabile per noi. Abbiamo politiche chiare contro questi video e le applichiamo in modo aggressivo. Utilizziamo una combinazione di apprendimento automatico, algoritmi e segnalazioni della community per determinare i contenuti nell'app YouTube Kids. Il team di YouTube è composto da genitori che hanno a cuore questo e si impegnano a migliorare l'app ogni giorno.
Sebbene YouTube non abbia ancora confermato lo sviluppo di questa nuova app, sembra che rispetti le politiche e gli standard dell'azienda. Si spera che YouTube continuerà a rispondere ai problemi riguardanti YouTube Kids, quindi i genitori possono fidarsi che i loro figli non saranno introdotti a contenuti problematici su un'app commercializzata per i bambini.
