Daniele entra in ufficio, si siede alla sua postazione e accende il pc, come tutti i giorni. Preme play. Il video mostra una donna che scappa. Un uomo la raggiunge, tira fuori un coltello e comincia a pugnalarla in mezzo alla strada, lei urla, e lui continua, “alla fine lei muore… Questo è stato il mio lavoro, dovevo ripulire la piattaforma da tutti i contenuti pericolosi e che violavano le policy, la nostra Bibbia". Daniele ha cominciato a lavorare come moderatore di YouTube Italia nel 2021, dopo un anno e mezzo si è licenziato, "se rimani per troppo tempo questo lavoro ti distrugge dentro", racconta a Fanpage.it.

“Quello che la gente fa sul web è orrendo". E soprattutto, quello che fa davvero la gente sul web noi non lo vediamo. Viene filtrato da persone che per ore fissano lo schermo, guardano stupri, violenze, omicidi, materiale pedopornografico e atti autolesionistici. Osservano, catalogano e bannano.

Fino al 2016 questo lavoro era svolto dagli algoritmi, poi durante le elezioni statunitensi Mark Zuckerberg ha cominciato a ricevere le prime pressioni. "Molti pensano ancora che siano i programmi a bloccare i contenuti", e invece le macchine non sono sufficienti. D'altronde un algoritmo non può stabilire se un'immagine di guerra abbia il valore di una notizia o se è una forma di propaganda o violenza gratuita. Servono esseri umani. E ne serviranno sempre di più. Secondo MarketWatch, filiale di Dow Jones & Company, il settore della moderazione dei contenuti digitali crescerà fino a 13,60 miliardi di dollari entro il 2027.

Come hai iniziato a fare il moderatore?

Stavo lavorando come supervisor in un albergo e un mio collega ha cominciato a parlarmi di questo lavoro. Non avevo capito bene di cosa si trattasse, però ho cominciato a guardare gli annunci. E ho trovato l’offerta di lavoro.

Cosa c’era scritto?

Era un annuncio molto generico, non spiegava bene in cosa consistesse il lavoro.

E quando hai capito che cosa avresti dovuto fare?

Al secondo colloquio. Il primo è stato conoscitivo, soprattutto per loro, che volevano capire se fossi la persona adatta ma non mi hanno dato le informazioni necessarie. Sono arrivate con il secondo colloquio che ho avuto con il mio team leader.

Perché hai deciso di accettare?

Avevo bisogno di finanziare i miei progetti, io sono un musicista e ho pensato che fosse una buona idea, poi sai, Google è una grande azienda, quindi ho accettato.

Per quanto tempo hai lavorato come moderatore di YouTube?

Ho iniziato nel 2021, e sono rimasto per un anno e mezzo.

Come sei stato formato?

Ho iniziato con un corso di formazione che è durato circa due mesi. Avevamo dei trainer che ci hanno spiegato come funzionava il lavoro, cosa dovevamo bloccare e cosa no. Mi hanno spiegato le policy e mostrato la Bibbia.

La Bibbia?

Sì, chiamavamo così la guida con tutte le regole, dovevamo seguirle in modo molto rigido. Era piuttosto lunga ed elencava tutte le policy dell’azienda. È un progetto molto vasto che cambia spesso, c’erano in continuazione riunione per definire le linee guida.

Finito il corso poi hai iniziato a lavorare come moderatore. 

Sì. Dovevo moderare i contenuti d’odio su YouTube, in particolare della sezione YouTube Italia, quindi mi occupavo solo dei contenuti in lingua italiana.

Mi spieghi meglio come funziona?

Io dovevo leggere o guardare video e commenti potenzialmente pericolosi, violenti e offensivi, e poi bloccare o meno a seconda di cosa diceva la policy a riguardo. Occupandomi della sezione hate mi capitavano spesso video razzisti, contenuti misogini, o contro la comunità LGBTQ+.

Il contenuto che hai dovuto bloccare più spesso?

Beh la parola ne*ro.

Com’era la tua giornata di lavoro?

Simile a quella di un ufficio. Iniziavamo alle 8:00 e finivamo alle 17:00. Avevamo l'obbligo di stare davanti al computer la prima ora di lavoro e l'ultima, Potevamo però prenderci durante la giornata dei momenti wellness.

Cosa sono i momenti wellness?

Delle pause per staccare durante l’orario di lavoro, diciamo dei momenti di svago, anche perché ti ritrovi di fronte a un computer a guardare contenuti difficili. Video sensibili, suicidi, violenze verso i bambini a seconda dei trend. Insomma, non cose piacevoli.

Il video che ti ha colpito di più?

Me ne vengono in mente due . Uno era stato registrato in Russia, mostrava con una webcam un'autovettura che si fermava davanti una donna, lei cominciava a scappare e poi un uomo la raggiungeva e la uccideva con delle pugnalate sulla strada. L’altro video particolarmente traumatico mostrava un gruppo di narcotrafficanti messicani che squartavano delle persone che pregavano di non morire. Mostrava tutto, non so se mi spiego.

Immagino che questi video ti abbiamo turbato. 

Molto.

Hai avuto ricadute psicologiche?

Ho cominciato a disinteressarsi del mondo. Mi chiudevo in me stesso, andavo a lavoro, tornavo a casa a volte facevo palestra ma nulla di più. Non avevo voglia di fare niente. E sai anche quando mi hanno spiegato il lavoro e avevo capito di cosa si trattasse non pensavo, mi sono sempre ritenuto una persona forte, che sa scindere, però certe cose non possono non toccarti.

Avevate un supporto psicologico?

Sì avevamo 20 minuti a settimana obbligatori con uno psicologo, che ci chiedeva come stesse andando a lavoro.

Ed erano sufficienti?

Dipende, per certe aree di moderazione estreme è molto dura reggere a livello psicologico.

Chi erano i tuoi colleghi?

Soprattutto ragazzi giovani il più grande avrà avuto 40 anni. Venivano da esperienze disparate, c’era chi aveva lavorato per Ryanair, chi per Eton, altri avevano fatto qualcosa in ambito economico. Però era necessario avere esperienze pregresse nel settore corporate o IT. Io ne sono la dimostrazione.

Come vi dividete il flusso di lavoro?

Non eravamo noi a cercare i video in realtà. Erano tutti all’interno di una lista generata dalla machine learning e dalle segnalazioni degli utenti. Non erano quindi i capi a girarci i contenuti ma c’era un sistema che ce li mostrava.

Ti è capitato di non essere d’accordo con le policy, per esempio bloccare qualcosa che non andava bloccato o viceversa?

C’è una cosa strana. In particolare per i video a sfondo politico. E infatti per la piattaforma l’apologia al fascismo non è viola le norme, l’apologia del nazismo invece sì.

Spiegati meglio. 

A me è capitato di vedere video di chiara apologia del fascismo che mostravano Mussolini, la sua storia, lo idolatravano e chiedevano un ritorno al fascimo, sostenevano il Duce, ma non li ho potuti bloccare.

Lo hai segnalato?

Certo, più volte ho discusso con i miei capi, ma la loro risposta era sempre la stessa: bisognava attenersi alla Bibbia. Ma non erano gli unici video problematici che rimanevano sulla piattaforma.

Per esempio?

Molti video sono targati a fine educativo ma in realtà mostrano immagini che possono turbare gli utenti. Per esempio c’era un tutorial per depilarsi in linguine dove un uomo mostrava i suoi genitali. Nonostante questo la piattaforma ha deciso di tenerlo.

Stavi ancora lavorando come moderatore quando la Russia ha attaccato l’Ucraina, giusto?

Sì.

E come ha inciso sui contenuti che dovevi moderare?

Tanto, c’era di tutto, come puoi immaginare, d’altronde moderavo la sezione hate. Dai contenuti sulla disinformazioni a quelli di odio verso gli ucraini o i russi. Minacce di morte verso Zelens'kyj o verso Putin, verso i civili, insulti. Ma non ho seguito tutto il conflitto perché poi me ne sono andato.

Come mai hai deciso di andartene?

Sicuramente per l’impatto emotivo, non è semplice da gestire, poi sai è alienante, un lavoro molto meccanico dove devi spegnere il cervello e seguire le policy. Se rimani per troppo tempo ti distrugge dentro.

Ora cosa farai?

Voglio dedicarmi alla musica e basta.

Cosa ti ha lasciato questo lavoro?

Ho visto oltre le linee sottile della società, sei davanti a tutte le cose sgradevoli, dai video ai commenti, non è semplice. Quello che la gente fa sul web è orrendo.