Youtube, stretta anti violenza
​contro l'odio task force «umana»

Bullismo, terrorismo, vendette sessuali, antisemitismo, cartoni animati hard nella sezione famiglie e persino la piaga della pedofilia: dopo una strenua resistenza opposta per anni alla rimozione dei contenuti spregevoli, il vaso di Pandora di YouTube è deflagrato in mille pezzi insieme ai suoi miliardi di clic e di gettoni d'oro. Quello che si è appena chiuso è stato l'anno più nero di sempre, per il colosso dei video acquistato da Google nel 2006 per la cifra monstre di 1,65 miliardi di dollari. Troppo grande per fallire, ma troppo grande per essere governata bene, la piattaforma ha così deciso di recitare il mea culpa. Come annunciato dal ceo Susan Wojcicki sul blog ufficiale dell'azienda, a Mountain View è arrivata la svolta: per arginare i contenuti violenti saranno assunti entro l'inizio dell'anno 10mila revisori in carne ed ossa. Se non per amore, per interesse. Dove non hanno potuto gli appelli etici, i contenziosi giudiziari, le grida nel vuoto di chi, come Tiziana Cantone, ha chiesto invano la rimozione di contenuti diffamatori prima di uccidersi, ha potuto infatti la legge del business. Il doppio danno d'immagine patito a marzo e bissato a novembre, è costato caro: il boicottaggio di oltre 250 multinazionali che hanno sospeso la pubblicità sulla piattaforma perché associate a video estremisti e ammiccamenti pedopornografici, ha generato un crollo dei profitti pubblicitari di oltre 750 milioni di dollari.

La prima ondata di divorzi, è arrivata a marzo sulla scorta di un'inchiesta del Times: decine di marchi celebri accompagnavano video propagandistici inneggianti alla jihad e altre forme di terrorismo assortite. Una bufera che ha spinto marchi come McDonald's, Audi, Toyota, ma anche il partito laburista inglese, a sospendere i contratti pubblicitari con la piattaforma con effetto immediato. In quel caso, arrivarono le scuse di Ronan Harris, Managing Director di Google Uk: «Con milioni di siti sul nostro network e 400 ore di video pubblicate su YouTube ogni minuto, ci rendiamo conto che non ci azzecchiamo». Quattrocento ore di video pubblicate su YouTube ogni minuto. Non è un errore del country manager, ma la pura realtà che si cela nell'oceano di YouTube, dove ogni giorno vengono consumati dagli utenti un miliardo di ore di filmati che nel solo 2016 hanno generato un totale di undici miliardi di commenti. Un universo dalle proporzioni inimmaginabili, dove può annidarsi di tutto. In seguito alla denuncia del Times, YouTube si è messa di buzzo buono. Da giugno a novembre il team umano di Trust and Safety della compagnia ha rivisto manualmente circa 2 milioni di video con contenuti violenti di estremisti e ne ha eliminati di colpo 150mila, nel tentativo di addestrare la macchina di intelligenza artificiale a individuare in futuro con maggiore efficacia nuovi video estremisti. E qui entra in campo Al, ossia l'Automatic Machine Learning al quale fino a oggi YouTube ha affidato la moderazione dei contenuti video: si tratta del sistema di intelligenza artificiale studiato da Mountain View per riconoscere in automatico i filmati violenti. Secondo le statistiche della piattaforma, è un cecchino quasi infallibile, in grado di individuare e fermare il 98 per cento dei video pericolosi. Ma allora, perché circolano migliaia di clip violente su YouTube? Innanzitutto per una ragione statistica: il 2 per cento di quattrocento ore di filmati caricati ogni minuto, il 2 per cento di un miliardo di video visti e sfuggiti al controllo ogni giorno, equivale a numeri pazzeschi nonostante l'ottimo lavoro del povero Al.

Ma dietro l'inefficienza della macchina, si cela anche un limite tecnologico. Come hanno rivelato alcuni tecnici di Google, Al è infatti addestrato per filtrare i filmati in base alla qualità: quelli che mostrano alta risoluzione, buon montaggio, parametri di regia ottimali, spesso passano al vaglio di Al il censore, perché li reputa buoni. Per l'Isis, che della qualità tecnica dei video ha fatto la sua bandiera più scintillante, è stato come un invito a nozze. Ecco perché i revisori umani servono: occorre ciò che per un robot è incomprensibile: quella sensibilità etica che non può essere espressa in numeri. I limiti di Al, d'altra parte hanno provocato un altro patatrac a novembre, quando YouTube è finito invischiato nel bubbone della pedofilia. 
 


Prima, nella sezione Kids della piattaforma, fanno capolino Spider-Man che urina nella vasca da bagno della protagonista del film Frozen, Mickey Mouse in una pozza di sangue investito da un'auto, e i personaggi di una serie di animazione in subbuglio ormonale all'interno di uno strip club. Ma la vicenda diventa ancora più seria, quando il Times scova tre canali di Youtube pieni di bambini danzanti in immagini sessuali ammiccanti e perverse, che fungevano da esca a un mercato di video e immagini gestito da pedofili. Anche in questo caso YouTube si sveglia tardi: chiude 270 account, rimuove 150mila video espliciti e 625mila commenti di predatori sessuali, ma per il sito è il colpo di grazia. In men che non si dica grandi multinazionali chiudono i contratti pubblicitari con la piattaforma. «Abbiamo registrato un aumento di video spacciati come adatti alle famiglie, ma che chiaramente non lo erano», ammette un post ufficiale di YouTube. Ma se ne vanno Disney, Adidas, Mars, Hewlett-Packard, Etihad, Deliveroo e centinaia di altri brand top level urtati dalla presenza dei loro marchi in video consigliati nella sezione famiglie. La parlamentare laburista Yvette Cooper dice quello che ormai hanno capito un po' tutti: «Trovo incredibile che questo materiale disgustoso e illegale sia ancora pubblicato su YouTube. Una condizione che mette in discussione l'idoneità di Google a gestire la piattaforma». E così, ferito a morte, YouTube ha deciso di ricominciare da capo. Ha fatto scalpore, pochi giorni fa il benservito dato a Scare PewDiePie, il canale Youtube più seguito che vanta 53 milioni di follower e un fatturato di 15 milioni di dollari. Nonostante gli incassi milionari, il gestore, Felix Kjelleberg è stato congedato dopo anni per aver pubblicato nove video con riferimenti anti-semiti. Un caso simbolo della volontà di intraprendere un nuovo corso. Dopo anni di irresponsabilità dichiarata, i colossi del web accettano di dover vigilare sui propri contenuti. E che non tutto è pubblicabile in nome del clic. Se non per amore, per interesse.
© RIPRODUZIONE RISERVATA